AIは、文章や画像をつくる道具だけではありません。
採用候補者の選考、融資や保険の審査、医療の支援、教育評価、行政サービス、問い合わせ対応など、人の生活や将来に関わる場面でも使われ始めています。
そこで問題が起きたとき、私たちは誰に説明を求めればよいのでしょうか。
AIの開発会社でしょうか。AIを導入した組織でしょうか。それとも、最後に画面を確認して承認ボタンを押した担当者でしょうか。
「AIが出した結果です」「人間が最後に確認しました」という説明だけでは、責任の所在が見えなくなることがあります。
AIガバナンスとは、AIを禁止するための仕組みではありません。AIを利用する目的、判断の権限、記録すべき証拠、問題が起きたときの停止や救済を、人間社会の側で設計することです。
国連で始まったAIガバナンスの対話
国連総会は2025年8月、独立国際科学パネルと「Global Dialogue on AI Governance」を設置する決議を採択しました。科学パネルはAIの機会、リスク、影響に関する科学的評価を行い、Global Dialogueは各国政府、産業界、市民社会、研究者などがAIガバナンスについて話し合う場です。
Global Dialogueの最初の実質会合は、2026年7月6日と7日にジュネーブで開催されました。議題には、人権、透明性、説明責任、強固な人間による監督、司法や救済へのアクセスなどが含まれました。
ただし、この会合で世界共通のAI責任法が成立したわけではありません。Global Dialogueは、各国の実践を共有し、共通理解や国際協力を進める対話の場であり、規制や処分を直接行う機関ではありません。科学パネルも規則を制定する機関ではなく、政策判断に必要な科学的証拠を提供する役割です。
国連の動きで重要なのは、すぐに世界統一ルールができたことではありません。
AIが人に不利益を与えたとき、責任が複雑なシステムの中に消えてしまう問題を、国際的な共通課題として話し始めたことに意味があります。
AIが複雑でも、人間と組織の責任は消えない
AIには、多くの関係者が関わります。
基盤となるモデルを開発する企業、そのモデルを業務システムへ組み込む企業、データを提供する事業者、AIを購入する組織、現場で操作する担当者などです。
関係者が増えるほど、一人だけにすべての責任を負わせることは適切ではありません。しかし、責任を分けることと、責任を薄めることは同じではありません。
大切なのは、次の問いです。
誰が、どの時点で、危害を予見できたのか。
誰が、危害を防止または制御できたのか。
誰が、判断の根拠となる情報や証拠を持っていたのか。
例えば、モデル提供者が既知の弱点を把握していたなら、その情報を利用組織へ伝える責任があります。利用組織がAIを採用や融資などの重要判断に使うと決めたなら、利用目的や対象者への影響を評価する責任があります。
現場担当者に実質的な権限がないのに、最後の承認だけを任せることは、公正な責任分担とはいえません。
責任は、最後に操作した人へ集めるのではなく、情報、権限、利益、危害を制御する能力に応じて配分する必要があります。
「人が最後に承認した」だけでは監督にならない
国連の会合では、人間による監督は単なる追認であってはならず、担当者に権限、能力、時間、独立性、システムを変更・停止できる力が必要だという意見が示されました。
これは、AIを利用する現場で特に重要です。
一日に何百件ものAI判断を、数秒ずつ確認するよう求められた担当者を考えてみます。担当者にはAIの結論しか表示されず、根拠となったデータや不確実性は見えません。AIの判断を変更すると業務評価が下がり、停止する権限もありません。
この状態で「人間が確認済み」と記録しても、意味のある監督とはいえないでしょう。
むしろ、人間の承認が、AIや組織の責任を担当者へ移すための形式になってしまうおそれがあります。これは、いわば責任のロンダリングです。
意味のある人間による監督には、少なくとも次の条件が必要です。
- AIの目的、限界、起こり得る誤りを理解できること
- 判断に必要な情報が示されること
- 現実的に検討できる時間があること
- AIの提案を変更、拒否、停止できること
- 判断や変更の記録が残ること
- 影響を受けた人の再審査や救済につながること
人間をAIの横に置くだけではなく、人間が判断できる環境を整えることが必要です。
影響を受ける人から見た「一つの窓口」
開発会社と利用組織の契約で責任分担を定めることは大切です。
しかし、契約だけでAIガバナンスが完成するわけではありません。
採用、融資、保険、教育、行政サービスなどで不利益を受けた人にとって、AIの供給網は見えません。どの企業がモデルを開発し、誰がデータを用意し、どの部署が設定を変更したのかを、本人が調査することは困難です。
だからこそ、影響を受けた人から見て、説明や再審査を求められる一つの窓口が必要です。
その窓口では、少なくとも次の対応が求められます。
- AIが利用されたことを知らせる
- 判断の主な理由を理解できる言葉で説明する
- 誤ったデータを訂正できるようにする
- 人間による再審査を受け付ける
- 必要に応じて判断の変更や補償につなげる
組織内部では、開発者、提供者、利用部門などが責任を分担して構いません。しかし、影響を受けた人に複雑な責任関係の解明を任せるべきではありません。
まず利用組織が窓口となり、その後、関係企業間で原因調査や費用負担を整理するほうが、人間中心の仕組みになります。
私たちが始められる「AI台帳」
AIガバナンスは、国や大企業だけの課題ではありません。
企業、自治体、学校、地域団体などでも、まず「どこで、何のためにAIを使っているか」を見えるようにすることから始められます。
そのために役立つのがAI台帳です。
ただし、製品名やモデル名だけを並べた一覧では十分ではありません。AIは、同じモデルでも使い方によって影響が大きく変わるからです。
| 記録する項目 | 確認したい内容 |
|---|---|
| 利用目的 | 何の問題を解決するために使うのか |
| 対象者 | 誰が利用し、誰が判断の影響を受けるのか |
| 意思決定 | AIは提案、順位付け、選別、拒否など何を行うのか |
| データ | 何を入力し、どこから取得し、どのように保存するのか |
| 供給者 | モデル、クラウド、システムを誰が提供しているのか |
| 影響 | 期待する便益と、起こり得る不利益は何か |
| 人間の権限 | 誰が変更、停止、再審査を決められるのか |
| 救済窓口 | 説明、訂正、異議申立てをどこで受け付けるのか |
AI台帳は、AI製品の在庫表ではありません。
AIが、どの人に、どのような判断を通じて影響するかを整理する地図です。
個人としても、自分の職場や利用するサービスについて、「どこでAIが使われているのか」「誰が説明できるのか」「結果に異議を申し立てられるのか」と尋ねることができます。
こうした小さな確認が、形式だけではないAIガバナンスにつながります。
まとめ
AIの判断が高度になり、関係する企業やシステムが増えても、人間と組織の説明責任が消えてよいわけではありません。
AIガバナンスで必要なのは、責任者の名前を一人決めることだけではありません。
誰が目的を決め、誰が危害を予見し、誰が停止でき、誰が証拠を持ち、影響を受けた人を誰が救済するのか。そのつながりを切れ目なく設計することが大切です。
国連の対話は、世界共通の完成した答えを示したものではありません。しかし、AIの責任を「人間か機械か」という二者択一ではなく、権限、情報、制御、証拠の流れから考え直すきっかけを与えています。
AIガバナンスは、技術の発展を止めるブレーキではありません。
人間が目的地を選び、進む方向を確かめ、必要なときに立ち止まれるようにする操縦の仕組みです。
AIを社会の役に立つ道具として育てるために、まず私たち自身が、利用目的と影響、責任と救済を見える形にしていくことが求められています。
国連の対話が、将来どのような国際的責任ルール、標準、契約実務へ結びつくかは、現時点では確定していません。各国の法制度や今後の国連文書によって、具体的な形は変わる可能性があります。
