学生時代から銀行員、弁護士を経て今日に至るまで、多くの文章を書いてきました。しかし、一から文章を書くのは（字数制限がある場合は特にそうですが）、今でも難儀です。ところが、昨秋から急速に広まった「チャットGPT」などの生成ＡＩを使えば、利用者の指示に沿う文章や画像などが即座に出来てきます。私を含め、文章を書くのに苦労している人たちにとっては朗報のように思えますが、果たしてそうでしょうか。
第一に、生成ＡＩはインターネット上にある大量のデータを入力して学習します。このデータの中には個人のプライバシーに関する情報も含まれます。生成ＡＩが利用者のさまざまな情報を収集し、それを元に利用者の能力や性格などを分析、評価して世の中に拡散してしまう可能性があります。自分の意思に反して個人情報が不適切に使われることのないよう、「自己情報コントロール権」という新しい人権が必要になってきます。
第二に、生成ＡＩがいかなるデータを入力し、どのように学習して出力しているのかが不明確です。入力したデータが誤っていれば出力も誤りになるでしょうし、入力したデータが誤ってなくても、学習方法が偏っていれば出力も偏ったものになります。生成ＡＩが作った文章などを盲目的に信じて利用者の判断が歪められることがないよう、生成ＡＩの入力と出力に関する基本的な設計を公表させ、生成ＡＩ以外の多種多様な情報に触れる機会を確保し、生成ＡＩの出力が事実に反しないかどうかをチェックする仕組みを設けるべきです。
そして、こうした規制や仕組みを政府に求める根拠となる、「情報環境権」という新たな人権を定める必要もありそうです。ただし、「国家による情報統制」という新たな問題が生じないよう、国民の「知る権利（情報アクセス権）」にも十分配慮しなければなりません。
生成ＡＩを利用しなくても、過去の私たちのインターネットの利用履歴はＡＩが収集分析していて、ニュース・サイト等ではその人の考えに沿うような情報や画像が優先的に表示されます。その結果、自分と異なる立場の見解に触れる機会が乏しくなり、誤った見解や偏狭な見解に囚われやすくなります。本来ＡＩは、人間が道具として使うものであって、人間がＡＩの虜（とりこ）となる事態は絶対に避けなくてはなりません。主権者たる国民が自らの意思で判断すべき国民投票や選挙においては、なおさらそう言えます。
「ＡＩのＡＩによるＡＩのための政治」に陥ることなく、真の意味での「国民の国民による国民のための政治」を実現するため、立憲民主党では「ＡＩとデジタル技術の進展を踏まえた国民投票法等検討ＷＴ」を立ち上げました。私が座長を拝命し、秋の臨時国会で成果を示せるよう、国会休会中も精力的に議論を重ね、作業を進めています。
