「最終判断は人間が行う」。AI導入の議論では、この一文が安全装置のように使われます。しかし、人間が承認ボタンを押していても、その人がAIの出力を独立して検証できなければ、監督は形だけになりかねません。
2026年10月15日、金融安定理事会（FSB）は、金融機関によるAIの責任ある導入に関する最終報告書を公表しました。報告書は、組織全体のガバナンスとAIライフサイクルの管理について、12の実務慣行を提示しています。その10番目が「人間による監督」です。
承認する人がいるだけでは足りない
FSBは、実効的な人間監督を、単なるチェック欄の確認と区別しています。重要なのは、監督者が介入するための十分な能力、権限、動機を持つことです。
この三つは別々の条件です。AIの限界を理解する能力があっても、止める権限がなければ介入できません。権限があっても、処理件数や速度だけを評価されれば、AIの判断に異議を唱える動機が弱くなります。肩書上の「最終責任者」を置くだけでは、実効的な監督にはなりません。
AIへの依存が監督能力を細らせる
最終報告は、AIを人の能力を拡張する技術として認める一方、人材のスキル低下にも注意を向けています。判断の下準備から説明、例外処理までをAIに任せ続ければ、人間が自力で論点を組み立て、矛盾を見つけ、代替案を示す機会が減ります。
ここには循環があります。AIが便利になるほど人はAIに頼り、頼るほど検証能力が弱り、検証能力が弱るほどAIへの依存が深まる。制度上は人間が決裁していても、実質的な主導権が少しずつAI側へ移る可能性があります。
「人を残す」から「人が判断できる状態を保つ」へ
対策は、人間を工程の最後に配置することだけではありません。例えば、重要案件の一部をAIなしで再検証する、AIの提案と人間の独立案を比較する、誤りやニアミスを教材にする、停止判断を適切に評価する、といった運用が必要です。
また、AIエージェントには人間監督だけでなく、技術的な制約も組み合わせます。FSBは、禁止行為をコードで制限すること、外部システムへのアクセスを必要最小限にすること、不可逆な行為の前に人の承認を求めることなどを例示しています。人間の注意力だけに安全を預けない考え方です。
金融以外にも通じる問い
この問題は金融機関だけのものではありません。医療、教育、採用、行政、文化発信など、人の生活に影響する分野では、「誰が承認したか」と同時に、「その人は本当に判断できたか」を問う必要があります。
権限を人に残すことと、判断能力を人に残すことは同じではありません。AI社会で守るべき主体性とは、形式上の最終決定権ではなく、AIに異議を唱え、止め、別の判断を選べる実質的な力です。
指針は法的拘束力を持たない
FSBの12項目は、法的拘束力のある規制でも正式な国際基準でもありません。また、AI依存による能力低下が金融機関全体で実証されたと結論づけた文書でもありません。各金融機関が状況とリスクに応じて参照する実務的な道具箱です。
それでも、「人間が最終判断者である」という宣言だけでは不十分だと国際的な金融安定の議論が認めた意味は大きいでしょう。今後の焦点は、監督者の能力をどう測り、どう維持し、介入した人が不利益を受けない制度をどう作るかです。
