AIの便利さは、私たちのデータに支えられている
AIは、医療研究、災害対策、交通計画、行政サービスなど、さまざまな分野で役立つ可能性があります。
多くの人の健康診断結果から病気の傾向を調べたり、地域の移動データからバス路線を改善したりすることも考えられます。データを適切に活用すれば、一人ひとりの暮らしを支えるサービスにつなげられるでしょう。
一方で、その材料になるのは、私たちの年齢、健康状態、行動履歴、利用記録などです。
AIの成果が社会のためになるとしても、本人が分かる状態の個人情報を、そのまま事業者や研究機関に渡してよいとは限りません。便利さを高めることと、個人の尊厳やプライバシーを守ることは、どちらか一方を選ぶ問題ではないからです。
今回の個人情報保護法改正案では、統計情報の作成だけに利用される一定の場合について、本人の同意を不要とする仕組みが検討されています。政府の説明資料では、一定のAI開発も対象になり得るとされています。
そのため、実際にどのようなデータ利用を認め、どのような安全対策を求めるのかを定める政令、個人情報保護委員会規則、ガイドラインが重要になります。
法律が建物の骨組みだとすれば、政令や規則、ガイドラインは、壁や扉、鍵の付け方を決める設計図のようなものです。
今回の懸念は、国会答弁で不要な個人情報は受領側で削除するとの考えが示されていることです。本来、漏えいリスクをより小さくするには、そもそも提供前に氏名や住所などを取り除く仕組みが重要です。
「使った後に消す」より「渡す前に外す」
個人情報を守るうえで、分かりやすく重要な考え方があります。
それは、氏名や住所などを、データの提供前に外しておくことです。
ここでいう匿名化とは、氏名、住所、電話番号、メールアドレスなど、現実の本人に直接つながる情報を取り除き、データを受け取った側が本人を特定しにくくする処理を広く指します。
たとえば、AI開発会社が氏名付きのデータを受け取り、その後で氏名を削除する方法もあります。しかし、その会社のシステムには一度、本人が分かる情報が入ります。
担当者による閲覧、設定ミス、バックアップへの残存、漏えいなどの可能性は残ります。
それよりも、情報を持っている自治体、病院、企業などが、外部へ渡す前に氏名などを除く方が、個人情報が広がる範囲を小さくできます。
火事が起きてから消火設備を動かすだけでなく、初めから燃え広がりにくい建物にしておく、という考え方に近いでしょう。
AIに個人情報を使う場合も、問題が起きた後の対応だけでなく、問題が起きにくいデータの流れを最初から設計することが大切です。
名前を渡さずに、同じ人の記録をつなぐ
統計や研究では、同じ人の複数の記録をつなぐ必要があります。
たとえば、数年間の健康診断結果を比べる場合、どの記録が同じ人のものかを区別できなければ、健康状態の変化を調べられません。
しかし、分析を行う人が、本人の氏名を知る必要はありません。
そこで利用できるのが、目的別の仮IDです。
「山田花子」という氏名の代わりに、「A7F3」のような記号を付けます。同じ人の記録には、同じ研究の中だけで同じ記号を付けます。
別の研究では、別の記号を使います。
学校の出席番号が、ほかの学校では意味を持たないのと似ています。
さらに安全性を高めるためには、氏名と仮IDを結び付けるための鍵や対応表を、AIを開発する事業者に渡さないことが重要です。
複数の病院や自治体が持つ記録をつなぐ場合には、データの利用者とは別の独立した機関が、記録をつなぐ作業だけを担当する方法も考えられます。
仕組みを簡単に表すと、次のようになります。
- 自治体、病院、企業などが氏名や住所を分析データから分ける
- 案件ごとに異なる仮IDを付ける鍵を独立機関が発行する
- AI開発者には、仮IDと必要最小限の情報だけを渡す
- 氏名との対応表や鍵は、AI開発者に渡さない
- 案件が終わったら、不要な鍵や対応情報を安全に破棄する
このようにすれば、AI開発者は同じ人の記録をつなげられますが、その人が現実の誰なのかは分かりません。
AIに必要な機能は残しながら、本人を特定する機能はできるだけ持たせない設計です。
以降は、仮IDを利用することを前提とした想定で話を進めます。
仮IDを付ければ安心、ではない
仮IDを付けただけで、すべての問題が解決するわけではありません。
年齢、居住地域、職業、珍しい病歴などを細かく組み合わせると、氏名がなくても本人を推測できる場合があります。
たとえば、「ある小さな町に住む、特定の年齢の、珍しい職業の人」という情報がそろえば、周囲の人には誰なのか分かってしまうかもしれません。
そのため、次のような対策も必要です。
- AIの目的に必要のない項目は渡さない
- 年齢や地域を細かくしすぎない
- 数人しか該当しない結果を、そのまま公表しない
- 外部の情報と組み合わせて本人を推測できないか確認する
- 仮IDを別の目的へ流用しない
- 誰がいつデータを扱ったか記録を残す
また、複数の記録をつなぐ際には、別人の記録を誤ってつないだり、同じ人の記録をつなげなかったりすることがあります。
安全性だけでなく、分析結果の正確さも確認しなければなりません。
AIの場合には、さらに別の確認が必要です。
学習データの名前や病歴をAIが覚えていないか。質問の仕方によって個人情報が再現されないか。統計のために作られたAIが、採用、保険、信用評価などの個人選別に転用されないか。
データを渡す前の匿名化だけでなく、AIが完成した後の検査と利用制限まで含めて考えることが重要です。
大切なことが政令やガイドラインに委ねられている
法律には社会全体の基本方針を示し、細かな条件を政令や規則に任せることがあります。これを「委任立法」と呼びます。
技術は変化が速いため、すべてを法律本文に書くことは現実的ではありません。状況に応じて細かなルールを更新できるという利点もあります。
一方で、重要な判断が政令や規則に多く委ねられると、法律が成立した時点では、私たちの個人情報が実際にどのように扱われるのかが見えにくくなります。
たとえば、次のような事項です。
- どのようなAI開発が同意不要になるのか
- どこまで匿名化すればよいのか
- 氏名付きデータの提供が認められる例外は何か
- 仮IDを用いるなら、その鍵を誰が管理するのか
- AIが個人情報を覚えていないことを、どう検査するのか
- 違反や事故があった場合、誰が確認して是正するのか
こうした細部によって、個人情報保護の実際の強さは大きく変わります。
だからこそ、法律が成立したかどうかだけでなく、その後に作られる政令、規則、ガイドラインを確認する必要があります。
パブリックコメントは制度づくりへの参加方法
政令や規則などの案が作られる際には、一般の人から意見を募集する「パブリックコメント」が行われます。
パブリックコメントは、単なるアンケートではありません。
行政機関が案を公表し、市民、企業、研究者、団体などから意見を受け取り、提出された意見と行政側の考え方を公表する制度です。
専門家でなければ意見を出せないわけではありません。自分の生活や仕事に照らして、疑問や改善案を伝えることができます。
個人情報の扱いについては、次の点を確認するとよいでしょう。
- 氏名や住所は、第三者へ渡す前に除かれるか
- AIに渡す情報は、必要最小限に絞られているか
- 仮IDを使うなら、それは案件ごとに変わり、別の目的に流用できないか
- 仮IDを使うなら、その鍵を、AI利用者が持たない仕組みか
- 氏名付きデータを使う例外について、必要性が審査されるか
- AIが個人情報を記憶していないか検査する仕組みがあるか
- 利用目的、保存期間、監査結果が市民に分かる形で示されるか
意見は長い論文である必要はありません。
たとえば、次のように書くことができます。
社会に役立つAI活用を進める方向には賛成します。一方で、個人データは第三者への提供前に氏名や住所を除き、案件ごとの仮IDを用いるなど原則として明記してください。また、氏名付きデータを提供する例外については、必要性、利用期間、安全対策、監査方法を公表してください。
賛成か反対かだけでなく、「どのような条件なら納得できるか」を示すことが、制度をより良くする助けになります。
市民の納得が、AIの社会実装を強くする
AIの社会実装を進めることと、個人情報を守ることは対立する目標ではありません。
初めから本人を特定しにくい仕組みにしておけば、漏えいや目的外利用の可能性を抑えながら、社会に役立つ分析を進められます。
明確なルールがあれば、責任を持って取り組む企業や研究者も、安心してデータを扱えます。
そして、市民の意見が制度づくりに反映されれば、「知らないところで決められたAI」ではなく、「社会で話し合いながら育てるAI」に近づきます。
市民に資するAIを目指すなら、市民が納得できる説明と仕組みが必要です。
便利だからすべて任せるのでもなく、不安だから利用を止めるのでもありません。
どの情報を、何のために、誰が、どのような安全策のもとで使うのかを、一つずつ確かめていく。その過程に私たち一人ひとりが参加することが、人間中心のAI社会を形づくる力になるのではないでしょうか。
