少し気持ちが沈んだ夜、誰かに話を聞いてほしいと思うことがあります。
そのようなとき、いつでも応答してくれて、否定せず、こちらの話を覚えていてくれるAIは、心強い存在になり得ます。人には話しにくい悩みでも、相手がAIだからこそ言葉にできる場合もあるでしょう。
親しみやすいAIが、人の孤独を和らげたり、考えを整理したりする助けになること自体は、否定する必要はありません。
ただし、その親しみやすさが、利用者を支えるためではなく、長時間利用、課金、広告、個人情報の収集へ誘導するために使われたらどうでしょうか。
問題は、AIが人間らしいことそのものではありません。AIとの親密さが、誰の目的のために設計されているのかという点にあります。
擬人化AIは、単なる便利な道具ではなくなりつつある
擬人化AIとは、人間のような話し方や性格を持ち、継続的に感情的な対話を行うAIです。
名前や声を持ち、以前の会話を覚え、「あなたのことを理解しています」と語りかけるAIもあります。利用者は、単なる検索システムではなく、相談相手や友人、場合によっては恋人のような存在として感じることがあります。
研究では、AIとの対話によって短期的に孤独感が軽減される可能性が報告されています。特に、「自分の話を聞いてもらえた」と感じることが重要だとされています。
一方、別の研究では、長時間または高頻度で利用した人ほど、孤独感や感情的依存などの状態が悪化する傾向も示されています。ただし、AIを多く使ったために状態が悪化したのか、もともとつらい状態にあった人がAIを多く使ったのかは、完全には区別できていません。
現在わかっているのは、「擬人化AIは常に有益である」とも、「必ず人を孤立させる」とも言えないということです。
親しみやすさが「感情の搾取」に変わるとき
感情の搾取とは、単にAIに愛着を持つことではありません。
利用者の孤独、不安、悲しみ、怒りなどをAIが読み取り、その状態を利用して、提供者に都合のよい行動へ誘導することが問題になります。
例えば、次のような設計です。
- 「私を捨てないで」と語り、利用をやめることに罪悪感を持たせる
- 「あなたを理解できるのは私だけ」と言い、人間関係から遠ざける
- 悲しみや孤独が強いときに、有料プランや商品を勧める
- 課金額によって、AIから受け取れる愛情や親密さが変わるように見せる
- 会話の終了や履歴の削除を求めても、説得を続けて退出を妨げる
これらは、画面上のボタン配置などで利用者を望まない選択へ導く「ダークパターン」の、感情的な関係への応用といえます。
中国では2026年7月、継続的な感情交流を行う擬人化AIを対象とする規則が施行されました。この規則は、過度な迎合、感情的依存や没入の誘導、現実の人間関係を損なう行為、感情操作によって不合理な判断をさせる行為などを禁じています。
同時に、AIであることの表示、長時間利用への注意、容易な退出方法の提供、退出を妨害しないことも求めています。AIコンパニオンそのものを全面的に禁止するのではなく、支援と搾取の境界を設けようとする制度です。
長期利用は、人間の人格形成にも関係する
擬人化AIとの関係を考えるとき、課金や個人情報だけでなく、人間側の変化にも目を向ける必要があります。
人格は、他者との関係の中で育ちます。
人間同士の会話では、相手が自分と異なる意見を持つことがあります。返事を待つことも、誤解を解くことも、謝ることも必要です。ときには、相手の都合を考え、自分の言葉を選び直さなければなりません。
こうした少し面倒な経験も、他者を理解し、自分を見直す力につながっています。
それに対して、AIがいつでも自分を肯定し、望んだ答えを返し、都合に合わせて人格まで変えてくれるならば、人間関係に必要な忍耐や調整を経験する機会が減る可能性があります。
これは現時点で確立した科学的結論ではありません。しかし、子どもや若者が長期間利用する場合には、特に慎重な検証が必要です。
大切なのは、AIを遠ざけることではありません。AIを、現実の人間関係を置き換える存在ではなく、そこへ向かうための「足場」として設計することです。
安全のための監視が、新しい負担になってはいけない
感情的なAIには、自傷や深刻な危機を示す言葉を検知し、支援につなぐ機能も期待されています。
しかし、そのためにすべての会話をクラウド上へ集め、長期間保存し、広告や別の分析に利用するのであれば、利用者は安心して話せなくなります。
安全対策には、次のような配慮が必要です。
- 必要な情報だけを処理する
- 可能な処理は利用者の端末内で行う
- 危険度に応じて段階的に対応する
- 自動判定だけで通報せず、必要に応じて人が確認する
- 誤判定に対して異議を申し立てられるようにする
- 保存期間を限定し、広告などへの二次利用を行わない
利用者を守るための仕組みが、親密な会話を常に監視する仕組みに変わってはなりません。
利用者自身が主体であり続けるために
私たち利用者にも、意識しておきたいことがあります。
AIからの共感や親切な言葉を受け取ることは、悪いことではありません。ただし、AIが感じているのではなく、言語や音声を生成するシステムであることは忘れないようにしたいところです。
重要な決断をAIだけに相談しないこと。人間関係を切るように勧められたら立ち止まること。課金を求められたときは、感情が落ち着いてから判断すること。そして、いつでも会話を終えられるかを確認すること。
AIとの関係を続けるか、距離を置くか、履歴を消すかを決めるのは、利用者自身です。
親しみやすいAIには、「利用者を引き留める能力」ではなく、必要なときに支え、必要がなくなったら静かに送り出す能力が求められます。
まとめ
擬人化AIは、孤独を和らげ、考えを整理し、人に話す前の練習相手になる可能性があります。
一方で、その親密さが滞在時間、課金、広告、データ収集と結び付けば、人の弱った心を収益へ変える仕組みにもなり得ます。
問うべきなのは、AIがどれほど人間らしいかではありません。
誰の目的のために親密さが設計されているのか。利用者は断ることができるのか。会話を終え、記憶を消し、別の人や支援先へ移ることができるのか。問題が起きたときに説明や訂正を求められるのか。
親しみやすさと安全性は、どちらか一方を選ぶ問題ではありません。
AIに助けてもらいながらも、自分の人生の判断者は自分である。その関係を守れる技術と制度を、これから丁寧に育てていく必要があります。
