AIエージェントが覚えたことを、私たちはどこまで取り戻せるのか

社会と技術

2026年9月、OpenAIは、仕事を継続して進めるAIエージェント「dots」を発表しました。注目したいのは、AIが何を実行できるかだけではありません。接続したアプリから得た情報を、いつまで文脈として持ち、私たちが後からどこまで取り戻せるのかです。

「AIが代理で働く」段階

dotsは、クラウド上のコンピュータと接続したアプリを使い、利用者の目標に向けて継続的に作業する仕組みです。公式説明では、進捗を知らせたり、必要な判断を尋ねたりもします。請求書の下書き、資料の更新、問い合わせの整理のような仕事では、見落としを減らし、人が本来の対話や創作に時間を使える可能性があります。

ただし、ここで変わるのは作業速度だけではありません。これまでのAIは、質問した人に答える場面が中心でした。常時動くエージェントは、誰の情報を読み、誰に影響する行為を準備し、どの記憶を次の仕事に持ち越すかに関わります。AIを使う人だけでなく、同僚、顧客、住民、会員にも影響が広がります。

接続を切れば、AIに渡した情報も取り戻せるのか

私たちの問いは単純です。AIが続けて働くとき、人は「権限を渡す」「記憶させる」「外へ働きかける」「間違いを直す」という全ての段階で、同じように選び直せるのでしょうか。

もし全部の段階で選び直せるなら、便利さを人の判断の中に置きやすくなります。反対に、後から直せない段階があるなら、最初の設定を慎重にする必要があります。この問いは、AIが賢いかどうかではなく、人と組織が責任を持ち続けられるかを確かめる問いです。

公式資料を7つの段階で数えてみた

今回、OpenAIの製品説明と公式FAQを読み、利用者が具体的に操作できると書かれた段階を数えました。AIの性能を測ったのではありません。公開情報から、人が主導権を取り戻す入口がどこにあるかを確かめた小さな文書調査です。

段階利用者に明記された操作判定
接続するアプリを決める権限を管理できる○
背景での情報収集読取り専用で、送信・変更はできない○
今後の記憶共有を止めるMemoryをオフにできる○
特定の記憶だけを直す・消す現在は直接できない×
外部に影響する行為内容により承認や引継ぎが必要○
作業中の監督手順を見て、方向変更・停止できる○
結果の訂正修正依頼はできるが、取消しは行為次第○

○は6つ、×は1つでした。計算すると 6÷7=85.7% です。ここで「85.7%安全」と言ってはいけません。この数字は、7段階のうち、利用者の操作が公式文書で具体的に確認できた割合にすぎません。

むしろ大事なのは、×の場所です。公式FAQには、dotsが受け取った個々の記憶は、現在は閲覧、直接修正、個別削除ができないとあります。接続を切れば新しい情報は読ませないようにできます。しかし、すでに取り込まれた文脈まで同じように消えるとは限りません。

便利さの前に「何を覚えさせないか」を決める

ここから言えるのは、AIを使う前の権限設定が、後からの訂正より重くなる場合があることです。メールを送る前の承認は分かりやすい安全策です。しかし、AIに渡した背景情報が成果物の判断に混ざった後で、どの情報を取り除くかを細かく選べなければ、説明や訂正は難しくなります。これは、AIに「覚えさせない選択」を最初に行う意味が大きい、ということです。

もちろん、dots全体を削除し、設定し直せばよいという考え方もあります。それで十分かどうかは、実際にどれだけ手間がかかるか、間違った文脈がどれだけ仕事に影響したかを記録しないと分かりません。便利な機能の数ではなく、「選び直せなかった出来事」を数える視点が必要です。これはAIを疑うためではなく、情報を渡した人との約束を守るためです。

影響を受ける人にも、説明と声を上げる道を

たとえば地域のイベントを運営する団体が、AIに「参加者からの問い合わせを整理して、案内文の下書きを作る」仕事を頼むとします。この仕事は便利です。しかし、問い合わせには、体調、家庭の事情、配慮してほしいことなど、本人が広く共有されるとは思っていない情報が含まれることがあります。

このとき必要なのは、運営者が「AIに任せたので大丈夫」と言うことではありません。まず、AIが読んでよい場所を、公開済みの案内と連絡先だけに絞る。個別事情を含むメール、名簿、チャットは最初から接続しない。次に、外部へ送る文章は必ず担当者が読み、誤りを見つけた参加者が訂正を求める窓口を案内する。さらに、「どの情報源を接続したか」「接続を切った日」「AIの文脈から消せない可能性がある情報は何か」を一枚の記録に残します。こうすると、便利さを得る人と、情報や結果の影響を受ける人の間に、説明と異議申立ての通路ができます。

会社でも同じです。管理者がAIに権限を渡すとき、現場の人が「この資料は読ませないでほしい」「この判断は人が行うべきだ」と言えるかを確かめましょう。沈黙を同意とみなさないことが大切です。AIが職場の仕事を速くしても、異論を言う人だけが非協力的に扱われるなら、その仕組みは人を支えていません。

「記憶させてよい」情報を、仕事ごとに分ける

最初の線引きは、技術の難しさではなく、情報が残ったときの影響で決めます。公開済みの案内、すでに公表した議事録、一般的な手順書は、目的を限れば試しやすい情報です。一方で、採用や評価のメモ、健康・福祉・教育に関する個別事情、苦情の原文、顧客や会員の連絡履歴は、便利でも最初から接続しない候補です。後者は本人の尊厳や機会に関わり、間違った文脈として残ったときの影響が大きいからです。

仕事を始める前に、担当者と情報を持つ人で「この仕事に必要な情報」と「便利でも渡さない情報」を二列に書き出してみましょう。これをここでは「記憶の持ち込み表」と呼びます。月に一度、接続が増えていないか、不要になった接続が残っていないかを見直します。ここでいう「人が確認する」は、最後に名前だけ見ることではありません。AIが何を材料にしたか、外した情報はないか、別の結論はあり得るかを考え、必要なら作業をやり直すことです。

小さく始めるなら、4週間だけ記録する

導入する人や組織は、最初から重要な仕事を全部任せないでください。まず4週間、公開情報の整理など、記憶に持ち込む情報を説明できる仕事から始めます。その間に次の5つを記録します。

  1. 接続したアプリと、AIに読ませた情報源はいくつか。
  2. そのうち、仕事の目的を一文で説明できない接続はいくつあるか。
  3. 接続を切った後も、既に得た文脈を個別に消せない可能性がある情報は何か。
  4. 人がAIの下書きを直したとき、誤った背景情報が原因だったものはいくつか。
  5. AIの作業で影響を受けた人が、質問や削除・訂正の相談を伝える道はあったか。

週に一度、AIを使った本人だけでなく、成果物を受け取る人も交えて記録を読みます。目的を説明できない接続、本人に説明できない情報、個別に訂正できない記憶が見つかったら、その情報源は外します。これは機能を減らすためでなく、将来の説明責任を保つための調整です。

まとめ

常時稼働するAIエージェントは、人の時間を助けるかもしれません。けれども、情報を渡した人が「何を覚えているのか分からない」「直したいが直せない」と感じる仕組みにしてよい理由にはなりません。AIを受け入れる力とは、使い方を覚えることだけではありません。誰が何を接続し、どの文脈を残し、訂正の相談を誰が受けるかを、関係者で説明できる形にする力です。

新しいAIを試すときは、「何ができるか」の次に、「この情報は後で取り戻せるか」と問いましょう。その問いが、便利さを人のために使い続けるための防波堤になります。