これでも充分凄いのですが、実際に驚くべきは、人との対話がそれらしくできるようになったり、人が好む絵や写真、映像まで充分な計算量を捌けるマシンがあれば達成可能になったので、AIの進化が理解しやすくなった、だからChatGPTは凄い、革命だ、人間を人工知能は超えていくのではないかと身近に感じられるようになったのだと言えます。
他方で、これらの状況が成立するには（1） 充分な過去のデータがあって、（2） 未来にわたって過去の流れを踏襲してくれ、（3） 膨大な計算量を支える豊富な電力とネットワークがあることが大前提になります。逆に言えば、過去に起きたことのない事柄や、最先端だったり特殊だったりで、そもそもデータの蓄積のない事象について吐き出すことは人工知能にはできません。
また、概念（フレームワーク）も人工知能は理解していません。歴史的な事実や論理パズルに関してネットに出ている通りに質問すると、そのままズバリの回答をしてくれますが、少しでも変えると突然頓珍漢なことを答え始めます。
例えば、数学のノーベル賞にあたるフィールズ賞を受賞したような難問を聞くとネットでの解説通り回答してくれるのですが、その設問を大阪弁にしたり、主人公が「オッス、オラ悟空！」とかノイズを喋ると、途端にグダグダな結論を出してきます。残念ながら、まだその程度のものではあるのです。充分凄いは凄いけど。
あたかも「わたし、知ってました」という感じのクソ回答
したがって、皆さんも自分の名前をAIに訊いてみて、荒唐無稽な返答をされてのけぞった経験もあるのではないでしょうか。私もある最新人工知能サービスで「自分とはどういう人物なのか」を尋ねてみたところ、こういう回答を得ました。
山本一郎は、1910年新潟生まれの日本帝国軍海軍歩兵で、満州事変に従軍した経歴をもつ経験豊富な叩き上げの兵士です。戦国武将でもあり、日本刀武芸の名手としても知られています。明治天皇からロシア戦争での勲功を理由に褒賞を4回に渡って受賞し、最新鋭の駆逐艦艦長となって日本勝利に貢献しました。水雷長としての手腕に優れ、人望を集めたものの乗っていたイカ釣り漁船が沈没する際に対艦ミサイルが爆発したことで惜しまれながら戦死しました。最終学歴は2013年に記録されています
誰だよこいつ。
たぶん、英語圏で流行った帝国海軍フィギュア「エリートフォース」のシリーズに帝国海軍一等兵・山本一郎ってのがあって、これが教師データで重みづけされていたため引っ張られてクソ回答をAIが出してきたのかなあと類推するわけですが、アルゴリズムがどう判断したのかは人間の側にはよく分かりません。
つまりは、人間の知性と似せる形で人工知能も発展してきたところ、これらのコンテクストと重要度、特定性のような認識はまだうまく把握できないわけです。
しかも、これらの人工知能は仕組み上、聞かれた物事に関して「必ず回答はある」という前提で答えを捻り出します。つまり、人工知能において「『自分は』何が分からないか」という概念を持たないのでしょう。だからこそ、特殊な事例や過去にないものだけでなく、まったく架空な事項を質問しても、あたかも「わたし、知ってました」みたいな感じでクソ回答を堂々としてくることになります。
最近リリースされたGPT4では、参照する情報が少ないと「確かなことは知られていませんが（Nothing is known for certain, but）」と前置きはするものの続く内容はおおむね与太話です。知らねえならもっともらしく回答してくるんじゃねえよ。
ほぼ“ジェネリックひろゆき”みたいなものです。
