文春オンライン

「ChatGPTには逆立ちしてもできないことがある」平井鳥取県知事が誤解覚悟で「使用禁止」を訴えた真意

ChatGPT、公共機関でどうする#1

2023/05/11
note

 メタバース(仮想空間)を使って、顔を見られたくないような相談も受けられないかと検討を始めた。仮想空間については、既に架空の「メタバース課」を発足させ、AIのアバター職員が情報発信などに取り組んでいる。

 10年前に全国で初めて制定した手話言語条例に関しては、手話を画像で読み取って日本語に転換するソフトを開発中だ。

 障害者アートを写真データで保存し、デジタル空間で展覧する、都道府県立では全国初の「鳥取県立バリアフリー美術館」も今年2月末にオープンさせた。

ADVERTISEMENT

 これほどデジタル技術を駆使しているのに、なぜChatGPTには慎重に構えたのか。

埋もれた作品が多かった障害者アートは全国初の「鳥取県立バリアフリー美術館」にデジタル収録している

いいと思う反面、危うい技術と感じる側面も

 ChatGPTは2015年にアメリカで設立された新興企業「OpenAI」社が開発し、2022年11月に公開した。鳥取県庁ではデジタル施策に計14年間も関わってきた下田耕作課長らデジタル改革推進課のメンバーが中心になり、今年の早い段階から検証作業を行ってきた。

 当然、平井知事も使ってみた。

「きれいな文章で答えますし、いいなと思うところもありました」

 が、それと同時に危うい技術であるようにも感じた。

「Googleなど今までの検索エンジンにも、関連する資料を集めて、我々に素材を提供する機能がありました。検索結果には順位づけがなされ、特定の情報が共有されやすくなるという問題点もありますが、それでも私達に選べる可能性がありました。ところが、ChatGPTは回答がまるで正解であるかのように、きれいな文章で出ます。それが論理的な構成にすら見えます。もしかしたら、そこには嘘があるかもしれないし、著作権に関わるものが入っているかもしれないのですが、文章としては成立しているから、私達はだまされやすい。人間の感性としてストレートに入ってきてしまうのです。不思議なもので、言葉がスムーズだと人間は納得してしまいがちです。『これでいい』と思ってしまうマジックがあります」

下田耕作・デジタル改革推進課長(手前)と話す平井伸治知事

 それだけではない。

 平井知事はもっと根源的な問題があると考えた。インターネット上で集められた巨大なデータから「学習」するChatGPTの成り立ちそのものに由来する限界だった。

「ChatGPTは既存の文章から言葉を拾ってきます。よく使われ、確かだろうと考えられる表現をつなぎ合わせて、文章を生成します。つまり、ChatGPTが学習しているのは過去のネットデータです。一方、我々が今、地方自治なり民主主義なりの現場で議論しなければならないのは、未来についてです。これを考えるのが政治であり、行政であるのですが、そうした要素は逆立ちしても出てきません」