デジタル庁は、ガバメントAI「源内」に二つのAIエージェント利用環境を導入し、約18万人の政府職員への提供を進めると発表しました。同時に、ガバナンス・セキュリティ・セーフティをまとめた「源内基準」も公表しています。
これは行政の生産性向上に向けた大きな一歩です。ただし、今回の資料を読むと、行政組織の内側を律する仕組みと、市民が行政判断を検証し、異議を述べるための仕組みとの間に、見過ごせない時間差があります。
「AIが決めた」では責任を逃れられない
源内基準は、AIを行政判断の主体にしないことを明確にしています。AIは職員の調査、審査、分析、文案作成を支援する手段であり、最終判断は職員が行います。AIエージェントを使った業務の責任も、行政機関に帰属します。
さらに、職員にはAIの出力を無条件に採用せず、内容・根拠・限界・リスクを確認し、必要に応じて修正、承認、介入、停止することが求められています。国民の権利利益や生活に影響する業務では、より強い人間の関与を確保する考え方です。
この原則は重要です。AIが便利になるほど、「機械が出した答えだから」という責任の空洞化が起きやすくなります。源内基準は、その逃げ道を制度上ふさごうとしています。
職員の「目利き」を失わないために
もう一つ注目したいのは、AIへの過度な依存が職員の批判的思考や技能を低下させ得ると、基準自身が認めている点です。職員は自ら考え、判断し、検証する能力を維持し、AIの出力を評価できる専門性、いわば「目利き」の能力を保つことが求められます。AIが使えない状況でも重要業務を遂行できる能力を維持する、という要請も盛り込まれました。
これは単なる研修論ではありません。行政判断の品質を最後に支えるのは、制度の目的や現場の事情を理解し、例外を見抜ける人間です。AIが日常業務に深く入るほど、判断力を使わずに済む環境ではなく、判断力を鍛え続ける運用が必要になります。
しかし、市民側の具体的な手続は「今後」
懸念はここからです。源内基準は、情報公開や不服申立ての場面でどう対応するか、人がどこで関与するか、どの記録を残すかといった事項について、総務省で検討中の「行政通則法AI利活用ガイドライン（仮称）」で整理される見込みだと説明しています。源内は、その将来のガイドラインへの適合を前提に設計するとされています。
つまり、行政内部の利用ルールは先に具体化された一方、市民が「自分に関する判断にAIがどう使われたのか」「どの記録を請求できるのか」「不利益な判断にどう異議を申し立てられるのか」を確認するAI特有の実務設計は、なお検討途上です。
ここで注意したいのは、現在の情報公開法制や行政不服審査法上の仕組みが消えるわけではないということです。問題は、AIを介した行政判断に既存制度をどう適用し、ログ、プロンプト、参照データ、モデル情報、職員の確認過程をどこまで記録・開示するのかが、まだ具体化されていない点にあります。
「利用開始」と「救済設計」の順番は逆でよいのか
源内基準は、高リスク業務について入力データ、プロンプト、参照データ、出力、使用モデル、処理時刻などを記録する機能の実装を検討しています。後から検証・監査できる仕組みは、市民への説明責任の基盤にもなり得ます。
しかし、「記録すること」と「本人が知り、争えること」は同じではありません。内部監査のためのログがあっても、市民がアクセスできず、異議申立ての場で意味のある説明につながらなければ、外部からの統制は弱いままです。
約18万人規模の利用環境を先に広げるのであれば、少なくとも次の点は並行して示す必要があります。
- AI利用の有無を、行政サービスの利用者にどの段階で知らせるのか
- 不利益な判断にAIが関与した場合、どの記録と理由を示すのか
- 本人が訂正や人間による再審査を求める手続をどう保障するのか
- ログの保存期間、開示範囲、第三者検証をどう設計するのか
- 府省庁ごとの運用差を、どこまで共通ルールで抑えるのか
安全基準を、市民の権利保障まで完成させる
源内基準は、責任主体、人間による監督、職員の専門性維持、セキュリティ、ログと監査可能性など、政府内部の安全なAI利用に必要な論点を広く押さえています。前向きに評価できる内容です。
だからこそ、次に必要なのは、その原則を市民から見える手続へ変換することです。AIを使う行政側のルールだけでなく、AIの影響を受ける市民が知り、問い、訂正を求め、異議を申し立てられる仕組みまでそろって、初めて「人間中心」の行政AIと言えます。
導入の速さだけでなく、救済制度を同じ速度で整えること。政府AI「源内」の信頼を左右するのは、まさにその点ではないでしょうか。