課題になるのは憲法が定める表現の自由や検閲禁止との兼ね合いで、「我々としても抑制しながら考えていかなければなりません。流れている情報の細かいところまで全部チェックするということではなく、大きな社会問題になりそうなところを捉えていきたいと考えています。こうしたことは、まだ行政機関では行われていないので、答えがありません。試行錯誤を重ねることになるでしょう」と語る。
フェイク情報という面で、急速に社会問題化しているのは生成AIを使った詐欺だろう。
「生成AIの悪いところは妄想が上手なところ」
平井知事は「生成AIの悪いところは妄想が上手なところです。ストーリーテラーみたいなところがあって、だから詐欺に利用されてしまいます。画像がついたりするから、よけいにだまされてしまうのです」と指摘する。
これについては、日本の社会性にも弱点がありそうだ。
「日本人は外国人に比べてだまされやすいようです。インターネットに出ている情報の真偽を確かめる人はアメリカだと7割ぐらいだと言われていますが、日本では3割程度。ディベート（異なる立場に分かれての議論）社会と違い、目の前に出てくるものはある程度信用してもいいというような日本人的な感性が影響しているのかもしれません。ネットを介した詐欺事件は、たぶん外国由来が多いのでしょうけれど、こうしたことに付け込んで狙っているのでしょうね。
日本社会には、人のことを信用し、悪いことはしないだろうという温もりがあります。それがかえって徒（あだ）になる面があり、ようやく政府がオリジネーター・プロファイル（最初に発信したメディアの証明をつける技術）を始めようとしています。それぞれの利用者が真偽判定をやりやすくする手法の導入は急ぐ必要があります」
似た問題では、SNSなどを介した陰謀論の跋扈（ばっこ）がある。
「ネット社会ではどうしても極端に流れて、自分に都合のいい情報を多く見てしまう傾向があります。そういうアルゴリズム（コンピュータの作業手順）があるせいです。例えば、新型コロナのワクチン反対でもそうした側面がありました」と平井知事は説明する。
フェイク情報、詐欺事件、選挙への影響、陰謀論……。そこに生成AIなどの先端技術がからんで手口が巧妙になっていく。
「オレオレ詐欺みたいなのがバージョンアップされ、自動的に何百人でもだませるようなシステムが動き始めています。これが政治の世界に入り込んでくると非常に厄介ですね」
平井知事は「我々はあるべき道をどう選択していけるか。真剣に問われる社会になっています」と言葉を強めた。
撮影 葉上太郎
その他の写真はこちらよりぜひご覧ください。
葉上 太郎
