連載「『PLUTO』から考える、私たちのAI社会」第2部
進路希望を入力すると、AIが成績、得意分野、卒業後の収入、通学時間まで分析し、「あなたにはこの学校が最適です」と答えたとする。先生や家族より詳しいデータを使い、過去の予測もよく当たっている。
あなたの希望とAIの答えが一致すれば便利だ。では、行きたい学校を「向いていない」と判定されたらどうするだろう。
ゲジヒトの能力と役割
『PLUTO』のゲジヒトは、情報を集め、推理し、判断する刑事ロボットだ。アニメ公式サイトでは、人間と高性能ロボットが共生する社会で、強大なロボットが破壊される事件を追う存在として紹介される。
捜査では、記憶力や計算力だけでなく、証言の背景を読み、矛盾を見つけ、仮説を修正する必要がある。高度な能力があるから、社会はゲジヒトに重要な役割を任せている。
しかし、「優れた答えを出せること」と「最終的に決めてよいこと」は同じではない。能力の評価と権限の付与は、分けて考える必要がある。
現実のAIは何ができるのか
現在の生成AIは、大量の文章を整理し、案を比べ、質問に答え、文書やプログラムを作れる。AIエージェントは、許可された道具を使い、情報検索やファイル操作など複数の工程を連続して実行できるようになっている。
一方で、もっともらしい誤り、古い情報、学習データに含まれる偏り、入力の仕方による結果の変化がある。NIST1の生成AI向けリスク管理資料も、AIのリスクを一度のテストで解決できるものとは扱わず、利用目的に応じて把握し、測り、管理し続ける対象としている。
『PLUTO』の世界との大きな違いだ。作品のロボットは人格を持つ登場人物として描かれるが、現実の生成AIに同じ内面があると確認されたわけではない。物語の想像力は重要だが、現実の技術評価とは混同しないようにしたい。
正確さだけでは決められない
進路推薦に戻ろう。AIは「過去の似た生徒がどこで成功したか」を予測できるかもしれない。しかし、本人がまだ言葉にできない夢、挑戦して失敗する価値、家族事情、地域とのつながりまで、一つの数値にできるとは限らない。
統計的に成功確率が高い選択が、本人にとって最良とは限らない。逆に「自分の気持ちだから」という理由だけで、重要なデータを無視するのも賢明ではない。必要なのは、AIか人間かの二者択一ではなく、AIの根拠と限界を知ったうえで、自分の価値判断を組み合わせることだ。
便利さが奪うかもしれないもの
便利な道具は時間を生む。しかし、使い方によっては、自分で調べる機会、迷う機会、他者に相談する機会まで減らす。答えが早く出るほど、「なぜそう考えたのか」を説明する力を使わなくなるかもしれない。
こうした変化を考える補助線として「認知の外部化」と「主体性」に注目したい。これはAI利用を否定する結論ではない。何をAIに任せ、何を自分で保持するかを見えるようにするための問いだ。
人間は昔から、文字、地図、電卓、検索エンジンに認知の一部を預けてきた。外部化そのものが悪いのではない。大切なのは、道具が止まったときの代替手段、結果を疑う能力、決定を変更する権限が残っているかである。
AIに異議を唱えられるか
UNESCO2の生徒向けAI能力枠組みは、人間中心の考え方、AI倫理、技術と応用、システム設計を学ぶ対象として示している。生徒はAIの受け身の利用者ではなく、安全に使い、評価し、ときには仕組みづくりにも参加する存在だ。
学校がAI推薦を使うなら、少なくとも推薦理由を説明できること、本人が使わない選択をできること、人間による再検討を求められること、結果の偏りを点検することが必要だろう。AIの答えを受け取る力だけでなく、問い返す力もAIリテラシーである。
あなたへの問い
AIの判断が君の判断より正確だとしても、それでもあなたが自分で決めたいことは何だろうか。
そして、自分と違う答えを出す人は、何を大切にしているのだろう。AIを無条件に信頼することも、無条件に拒絶することもせず、根拠、限界、影響を比べながら決める。それが主体性を手放さずにAIを使う第一歩になる。
作品・参考情報
- アニメ『PLUTO』公式サイト「STORY」
https://pluto-anime.com/story - NIST「Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile」
https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence - UNESCO「AI competency framework for students」
https://www.unesco.org/en/articles/ai-competency-framework-students
本稿は作品の序盤設定に触れますが、重大な展開や結末の説明は避けています。作品本文やせりふの転載は行わず、公式紹介に基づく要約と筆者の解釈を区別しています。CAPEは本稿では思考整理の補助線として用い、唯一の正解とは位置づけていません。
