人のような姿で歩き、荷物を運び、案内や見守りを行うヒューマノイド。将来は、駅や役所、病院、介護施設、集合住宅などで、私たちの生活を支える存在になるかもしれません。
人手が不足する現場を助けたり、危険な作業を代わったり、身体の不自由な人の行動を支援したりできれば、大きな価値があります。
一方、公共空間や医療、法律、住宅は、失敗したときの影響が大きい場所です。ロボットが人に接触した場合、AIが誤った案内をした場合、個人情報が外部に流れた場合、誰が止め、誰が説明し、誰が補償するのでしょうか。
社会実装を前向きに進めるためにこそ、「動いたから使う」ではなく、「安全を証拠で示し、公平な制度で支える」という考え方が必要です。
AIの社会実装は、便利さだけで決めるものではない
日本の「AI事業者ガイドライン第1.2版」は、政府や自治体を含むAI利用者に対し、危険の大きさに応じて対策を変える「リスクベース」の考え方を示しています。また、企業だけでなく、教育・研究機関、市民社会、消費者など、多様な関係者が参加することを重視しています。
米国のNISTが公表しているAIリスクマネジメント・フレームワークも、AIのリスクを企業だけの問題ではなく、個人、組織、地域社会に関わる問題として扱っています。設計、開発、利用、評価という一連の流れを通じて、継続的にリスクを管理する考え方です。
また、ISO・IEC・ITUの共通特許方針では、国際標準を実施するために不可欠な特許について、誰もが過度な制約なく利用できることを目標とし、無償または合理的かつ非差別的な条件によるライセンスという選択肢を設けています。
ただし、これらのガイドラインや方針が、以下で提案する制度をそのまま義務づけているわけではありません。ここから先は、公共性の高い場所でヒューマノイドを本番利用するために、筆者が必要だと考える条件です。
「安全です」という説明から、「安全を示す証拠」へ
新しい技術の説明では、「人間が監視しています」「高いセキュリティを使っています」「国際規格を参考にしています」といった言葉が使われます。
しかし、本当に確認したいのは、その言葉の先です。
例えば、センサーが壊れたときに安全に停止できるのか。通信が切れたときに暴走しないのか。子どもや車いす利用者を正しく認識できるのか。担当者が疲れて判断を誤る状況まで試しているのか。事故が起きたときに記録が残り、原因を調べられるのか。
こうした危険と対策を整理し、試験結果や運用記録を使って、「なぜ安全と言えるのか」を筋道立てて示す文書を安全ケースと呼びます。
公共性の高い用途では、開発企業だけが作成して自己評価するのではなく、利害関係のない専門家が検証する独立安全ケースが必要です。
さらに、導入前には次のような資料をまとめた公共証拠パッケージを提出する仕組みが望まれます。
- 衝突、転倒、誤認識、停電、通信断などの試験結果
- AIの判断精度と、不得意な条件
- サイバー攻撃や個人情報漏えいへの対策
- 緊急停止、事故報告、原因調査の手順
- 利用者が異議を申し立てる方法
- 保険、補償、サービス終了時の移行計画
すべてをインターネット上に公開すると、個人情報やセキュリティ上の問題が生じる場合もあります。一般には要点と評価結果を公開し、詳細情報は行政や独立監査機関が確認できる形が現実的でしょう。
安全の「最低層」は、誰でも使えるようにする
安全技術の開発には費用がかかります。優れた発明を特許で守り、開発者が投資を回収することには意味があります。
しかし、人の生命や公共サービスを守るために欠かせない安全機能まで、一つの企業しか使えない状態になると、別の問題が生まれます。
特許料が高すぎて自治体や小規模事業者が導入できない。特定企業が撤退すると安全機能も使えなくなる。他社の優れたロボットが、独自資格を持っていないという理由だけで参入できない。このような状態は、安全を高めるどころか、社会全体の選択肢を狭めます。
そこで、緊急停止、安全な通信、監査記録、事故報告などの安全の最低層は、公開仕様や無償ライセンスを基本とすることが考えられます。
特許が不可欠な場合には、FRAND、つまり「公正で、合理的で、利用者を不当に差別しない条件」で使えるようにします。さらに公共利用では、料金が将来急に上がらないよう、契約で上限を決める方法も考えられます。
なお、上限付きFRANDは現行の国際方針が一律に要求している制度ではなく、公共調達に取り入れるための提案です。
一つの組織に、すべての権限を集めない
安全制度では、「誰が判断するか」も重要です。
特許を持つ組織が研修を行い、自ら認証し、資格停止や異議申立ても判断する仕組みでは、利益相反が起こりやすくなります。
学校に例えるなら、教材を販売する会社が試験問題を作り、採点し、不合格への異議申立ても一社で決めるようなものです。判断が正しくても、外から確かめにくくなります。
そのため、少なくとも次の役割を分ける必要があります。
- 特許やシステムを提供する者
- 操作方法や安全管理を教える研修者
- 基準に合っているかを判定する認証者
- 資格停止や処分を判断する懲戒者
組織を完全に別会社にすることが難しい場合でも、審査部門の独立、利益相反の公開、外部委員の参加、第三者への不服申立ては必要です。
利用者の権利を、契約と法律に組み込む
安全な機械を作るだけでは、人間中心の社会実装にはなりません。利用する住民や患者が、現実に選択し、異議を述べ、救済を受けられる制度が必要です。
同等性調達
公共機関は、特定企業の商品名や独自資格だけを指定するのではなく、「この安全性能を満たすこと」と要求します。同じ安全成果を証明できれば、他社技術やオープンソースによる方法も認める仕組みです。
データ可搬性
自治体や病院、住民が、データ、監査ログ、事故記録を標準的な形式で取り出し、別の事業者へ移せるようにします。これにより、一社のサービスから離れられない状態を防ぎます。
実質的なオプトアウト
「AIを使わない」というボタンがあるだけでは十分ではありません。人間によるサービスを選んでも、料金、品質、待ち時間が大きく不利にならないことが重要です。
住民参加
導入される地域の住民、患者、障害のある人、現場職員などが、導入前だけでなく、運用後の評価や停止判断にも参加できるようにします。意見を聞くだけでなく、基準の見直しに実際に関われる仕組みが望まれます。
事故補償
事故の責任が確定するまで何年も待つのでは、被害を受けた人の生活を守れません。保険、補償基金、迅速な仮払い、相談窓口を、導入契約の段階から用意する必要があります。
経済産業省も2026年に、AI利用時の民事責任について、裁判例の蓄積が十分ではないことを踏まえた手引きを公表し、自律走行ロボットやAIエージェントを検討対象に含めています。
技術を止めるためではなく、安心して使い続けるために
安全条件を増やすと、社会実装が遅れるという意見もあるでしょう。
しかし、公共空間で重大事故や不公平な運用が起きれば、技術全体への信頼が失われ、結果として導入が難しくなります。
最初は限定された場所と作業から始め、事故や「事故になりかけた事例」を記録し、基準を改善する。十分な証拠がそろった段階で、利用範囲を広げる。この進め方は、慎重であると同時に、技術を社会に根づかせる現実的な方法です。
まとめ
ヒューマノイドやAIロボットには、人手不足を補い、危険な仕事を減らし、暮らしの可能性を広げる力があります。
その力を公共空間、医療、法律、住宅で活かすには、性能の高さだけでは足りません。
独立した安全検証、社会が確認できる証拠、開かれた安全技術、公平な認証、移行できるデータ、実質的な選択権、住民参加、事故時の補償。これらを契約と法制度に組み込む必要があります。
大切なのは、ロボットを信じるか疑うかの二択ではありません。
人間が確認し、異議を述べ、止め、選び直せる社会の中で、技術を育てていくことです。安全と公平を社会の共通基盤にできれば、ヒューマノイドは人間の役割を狭める存在ではなく、生活を支え、可能性を広げる道具になっていくでしょう。
