ウェブ上で、相手が人間なのかAIエージェントなのか、会話だけでは見分けにくい場面が増えています。問い合わせ、予約、買い物、交渉まで、AIが人の代理として行うようになれば、社会の中に「仮想の人」が参加するような状態が生まれます。
「人間か機械か」だけでは足りない
これまでのスパム対策は、人間と機械を分ける発想に支えられてきました。文字や画像の認証、操作時間の分析、JavaScriptの実行確認などです。しかしAIエージェントは、画面を読み、状況に応じて操作し、自然な文章まで作れます。
ただし、すべての対策が無意味になったわけではありません。ブラウザや通信の信号を使う認証、送信頻度の制限、メール確認などは今も有効です。大切なのは、認証を一枚の壁として見るのではなく、複数の確認を重ねることです。
正規の代理でも、望ましい行為とは限らない
難しいのは、AIエージェントが正規の利用者から権限を与えられている場合です。一人の利用者に代わって予約するなら便利です。しかし、同じ仕組みが千社へ個別化した営業文を送れば、受け手には迷惑な自動化になります。
つまり「誰から委任されたか」が分かっても、それだけでは十分ではありません。「何の目的で」「どこまで許され」「誰に負担を与え」「問題が起きたら誰が責任を負うか」まで考える必要があります。
必要なのは、AIエージェントの社会的アライメント
AIのアライメントは、しばしばAIを人の意図に合わせる問題として語られます。しかし社会には、送り手だけでなく受け手、サービス運営者、周囲の人がいます。ある人に忠実なAIが、別の人には迷惑や圧力になることもあります。
そこで必要なのが、AIエージェントを社会のルールへ合わせる「社会的アライメント」です。少なくとも次の四点が欠かせません。
- 主体の確認：誰の代理として動いているのか。
- 権限の範囲：何を、どこまで任されているのか。
- 行為の正当性：受け手の規則や利益を損なっていないか。
- 責任と記録：問題が起きたとき、誰が説明し、修正できるのか。
「仮想の人」がいる社会の技術
対応技術も、人間を証明する仕組みから、代理関係と行為を検証する仕組みへ変わります。AIエージェントが暗号署名で自らの運営主体を示すこと、委任された目的と期限を伝えること、受け手が利用条件を示すこと、頻度制限やリスク評価を重ねることが必要です。
疑わしい行為をすぐ削除するのではなく、制限、隔離、追加確認、人による審査を選べる設計も重要です。正当な自動化まで一律に排除すれば、障害のある人を支える代理操作や、小さな事業者を助ける自動化まで閉め出してしまいます。
社会学の問いは、画面の向こうへ広がる
人と見分けにくいAIが社会に参加するとき、問題は「本物の人間か」だけではありません。誰の意思が表現され、誰が便益を得て、誰が負担を引き受け、異議を申し立てられるかが問われます。
私たちは、仮想の人を人間と同じものとして扱う必要はありません。しかし、単なる道具としても扱い切れません。AIエージェントを、権限と責任を伴う社会的な代理人として捉えること。そのための社会学と技術を同時に育てることが、次のウェブの信頼を支えるのだと思います。
