技術の発展によって生じた“新しいリスク”
AI技術の飛躍的な進化でカラー化は比較的簡単に行えるようになり、技術活用の裾野が広がった。と同時に新たな脅威を生み出しもした。それが「ハルシネーション（誤認や論理の矛盾を含む事象や事実とは異なる情報を作り出してしまう現象）」である。
「AIが非常に賢くなったことで、逆に恐ろしいことが起きるようになりました。ハルシネーションですね。モデルの発展で随分減ってきてはいるものの、まだ起こることがあります。私の仕事で起きたハルシネーションとしては、AIが元の写真になかったものを加えることでしょうか。
例を挙げると、ある出征する兵士が『馬のお墓』の前で敬礼しているモノクロ写真をカラー化した時、出来上がったカラー写真に、元のモノクロ写真に存在しなかった『お皿に盛られた馬への供え物』のようなものが、ごく自然に描き足されていたんです」
AIは「お墓の前で敬礼している」という文脈を読み取り、「ならば、ここにはお供え物があるはずだ」と勝手に推論、存在しない要素を極めて自然なタッチで画像に合成してしまったのだ。
「あまりにも巧妙に嘘を混ぜてくるため、一見しただけでは見逃してしまう可能性もあります。これは歴史的資料を扱う上で、極めて危険な状態だと言えます」
過去の記憶を鮮明に蘇らせるうえで生成AIは劇的な利便性をもたらし、多くの人が気軽にカラー化を行えるようになった。
しかし、一歩間違えれば生成AIによる写真のカラー化は歴史改ざんにもつながってしまう。AIが生成した写真が新たな歴史として残ってしまう可能性もあるのだ。すると、何が本来の歴史なのかがわからなくなってしまう。
「技術の発展で利便性は大きく高まりましたが、AIがワンクリックで完璧な仕事をしてくれるわけではありません。むしろ、AIが勝手な創作をしていないか、人間の目で厳密なファクトチェックを行う責任がかつてなく重くなっています。
テクノロジーが進化すればするほど、人間の手と目が重要になるのです」
◆◆◆
その時々の最適なビジュアライゼーションに取り組み続けてきた渡邉教授だからこそ、技術が引き起こす新たな問題点にも注意の目を光らせる。技術活用と、それに伴うリスク。両者のバランスを取りながら、渡邉氏が現在行っている取り組み、今後のビジョンについても話を聞いた。
記事内で紹介できなかった写真が多数ございます。こちらよりぜひご覧ください。
