カリフォルニア州が、AIを評価する監査人の登録と独立性を法律で定めました。これは企業任せだった安全確認を社会の仕組みに変える一歩です。しかし、AIだけを検査しても十分ではありません。問われているのは、私たちの社会にAIを主体的に受け入れる力があるかです。
AIを監査する人も監査される
2026年9月9日、米カリフォルニア州で二つのAI監査法が成立しました。
SB 813は、AIの危険を評価する専門組織について、能力、評価方法、資金関係、企業からの独立性を確認する制度です。
AB 1405は、州法に関係する一定のAI監査について、監査人の登録簿と不正通報窓口を設けます。監査人は、自分で設計した仕組みを自分で監査できません。
これは重要な変化です。AI企業が「自社で安全を確認しました」と説明するだけでなく、その説明を第三者が検証する方向へ進むからです。
けれども、ここで問いを止めてはいけません。
監査に合格したAIを導入すれば、社会の側は何も変わらなくてよいのでしょうか。
監査済みのAIなら問題ないのでしょうか
AIの結果は、AIだけでは決まりません。
どの仕事に使うか。どのデータを渡すか。人はどこで確認するか。職員の成績を何で測るか。間違いを誰が直すか。こうした社会側の条件によって、同じAIでも結果は変わります。
たとえば、採用AIの精度が高くても、応募者が誤った情報を訂正できなければ、公正な採用とはいえません。
問い合わせAIが速く答えても、人間の担当者へつながる道がなければ、複雑な事情を持つ人は置き去りになります。
AIに「効率化せよ」と命じながら、職員を減らし、確認時間もなくせば、AIは問題を解決する際に、人との関りを減らす方向へ働くかもしれません。
問題はAIの性能だけではありません。社会の目的、仕事の設計、責任の置き方、人間の関わり方も、AIと一緒に見直す必要があります。
必要なのは、AIと社会の「双方向適応」
AI社会というと、人間が新しい技術へ慣れる姿を想像しがちです。
しかし、人間だけがAIへ合わせるのは一方向の適応です。AIに合わせて仕事を細切れにし、説明を省き、判断を急ぐようになれば、便利さと引き換えに社会の大切な能力を失います。
必要なのは双方向の適応です。
AIの側には、人間の目的を理解し、説明でき、修正され、拒否され、停止される条件を求めます。
社会の側は、AIの答えを読み、疑い、使わない判断をし、結果へ責任を持てるように変わります。組織の評価制度、仕事の分担、相談窓口、教育も作り直します。
目指すのは、人間がAIへ従う社会でも、AIを拒絶する社会でもありません。人間が目的を決め、AIをコントロールしながら使える社会です。
倫理はブレーキではなく「砦」である
変化には、越えてはならない境界が必要です。それが倫理です。
倫理は、AIの進歩を止めるための飾りではありません。効率や利益がどれほど大きくても、人間社会が明け渡してはいけないものを守る砦です。
人を単なるデータとして扱わない。尊厳や権利を効率との交換条件にしない。AIの判断へ異議を申し立てられる。負担や危険を弱い立場の人へ押し付けない。最後は人間が止められる。
これらは、便利になったら省いてよい手順ではありません。
AIに合わせて異議申立てをなくすことは適応ではありません。監督する人を減らして、誰も説明できなくすることも適応ではありません。それは、人間がAIへ社会を明け渡すことです。
AI監査に「社会受容監査」を加える
そこで、AI製品の監査と一緒に「社会受容監査」を行うことを提案します。
調べる対象はAIではなく、導入する組織です。
- AIへ任せる判断と、人に残す判断を区別したか
- AIを使わない選択肢を残したか
- 誤りを訂正し、判断をやり直す窓口があるか
- 便利さを得る人と、負担を引き受ける人を確認したか
- 現場担当者が問題を報告しても不利益を受けないか
- 利用停止を決める人と条件が明確か
一つでも答えられなければ、AIが安全ではないと決めつける必要はありません。ただし、人間の側がまだ受け入れる準備を終えていないと判断します。
ここが重要です。AIの導入を遅らせるのではなく、事故や不信を生まない形で長く使うために、人間側の準備を整えるのです。
「監査のレシート」を意思決定の記録にする
そこで「監査のレシート」を提案します。
AIの版、監査日、調べた危険、未検査事項だけでなく、次を記します。
- このAIで解決したい人間社会の課題
- AIへ任せる判断と任せない判断
- 利益を得る人と負担を負う人
- 訂正、異議申立て、停止の責任者
- 再監査または利用中止となる条件
これは安全証明書ではありません。社会が何を守り、どこまでAIへ任せると決めたかを残す意思決定の記録です。
例えば導入から90日後には、処理件数だけでなく、苦情、訂正、人間へ戻した判断、利用を断った人への影響を確認します。
AIの性能だけが向上し、人が説明する力や選び直す力が下がっていたら、成功とは評価しません。
まとめ
カリフォルニア州の新法は、AIを評価する人にも能力、独立性、説明を求めました。企業の自己宣言だけに頼らないための重要な一歩です。
しかし、AIだけを監査しても、人間社会は守れません。
AIを現在の仕事や制度へそのまま取り入れるのではなく、導入目的、責任、教育、異議申立て、停止方法まで作り直す必要があります。AIも社会も、人間のために変わる。それが双方向適応です。
その変化の中で、尊厳、権利、公正さ、人間の最終決定権を守る砦が倫理です。
AIを受容できる社会とは、AIを多く使う社会ではありません。AIの答えを疑い、選び、直し、拒み、必要なら止め、その判断を他者へ説明できる社会です。
AI監査に社会受容監査を加える。監査のレシートに、人間社会が守るものと引き受ける責任を書く。その小さな実践から、AIに使われる社会ではなく、AIを人間のために育てられる社会へ近づけます。
