今後、チャットGPTが社会に浸透すればするほど、“フェイクニュースの自動生成機”として、情報空間全体を汚染し、その質と信頼を低下させる可能性がある、ということだ。
グーグルは生成AI「バード」を発表
「幻覚」は、大規模言語モデルの仕組みそのものに由来する。
AIはそれまでの文章のつながりから、次に来る可能性が最も高い言葉を、機械的に選び出していく。しかし、その内容を理解しているわけではなく、それが事実に基づくものかどうかの判断もしていない。確率的な「もっともらしさ」によってのみ、質問に対する回答を作成している。
ただ、そのもとになる膨大な学習データを飲み込んでいるため、ただのデタラメではなく、「もっともらしいデタラメ」になる。
グーグルもその洗礼を受けた。グーグルは今年2月6日、生成AI「バード」を発表。CEOのスンダー・ピチャイ氏による公式ブログの説明には、プロモーション用のデモ動画もついていた。
動画には、「うちの9歳の子に教えてあげられるジェイムズ・ウェッブ宇宙望遠鏡の新発見って何？」という質問に、バードが3つの回答を瞬時に出力する様子が映し出された。
架空の研究論文を「捏造」する例が数々確認される
だがロイター通信の報道によれば、その回答のうちの1つ、「太陽系外の惑星の初めての写真撮影をした」は、事実ではなかった。実際には、2004年にチリ北部にある欧州南天天文台の超大型望遠鏡が撮影したものが最初だった。
これを受けて親会社のアルファベットの株価が2月8日に急落、時価総額で1000億ドルが消失した。
一方、ボストン・グローブ・メディア傘下の健康情報サイト「スタット」は、チャットGPTの検証として、「分娩後異常出血」に関する鑑別診断を指示したところ、回答のエビデンスとして示された4つの研究論文はいずれも実在しないものだった。
架空の研究論文を「捏造」する例は、これ以外にも数々確認されている。
オーストラリアのクイーンズランド大学助教、デビッド・スマードン氏は、チャットGPTに「史上最も引用件数の多い経済学論文」を尋ねたところ、「（ノーベル経済学賞受賞者）ダグラス・ノース氏とロバート・トーマス氏が1969年に発表した『経済史の理論』」と回答したという。この論文も、やはり存在しなかった。
