ただ、「間違うと受験者の運命に関わることもある」（平井知事）。AIに任せきりにしてしまうのではなく、注意を払いながら使わなければならない。このため、「間違う可能性があると想定し、対策も整えて使うというレベルの高い管理をする必要がある」（同）とした。
高リスクのAIを使うなら、事前に「想定→対策」を準備しておくのを前提にしたのだ。
この点は、危険性を認識したうえで使っていくもう一つの業務・レベル2と大きく違う。
レベル2はリスクレベルが「限定的」で比較的低い「要配慮業務」だ。
新ガイドラインでは「AIの出力傾向の把握等により、責任ある運用に配慮しつつ活用」としており、「AIを直接利用者が取り扱う業務や、AIの出力結果をそのまま利用する必要がある業務については、AIの出力傾向の把握や定期的な動作記録の確認、分析を通じて、出力結果に責任をもてるように配慮する」と説明を加えた。
AIが適していない“100％正しい答えが求められる仕事”
どんな例があるのか。平井知事が挙げたのは、「自動応答型のAIチャットボット（自動会話プログラム）」と「AI婚活マッチングシステム」だ。
自動応答型のAIチャットボットを、まだ鳥取県は導入していない。自動応答型ではないタイプを活用している。この方式だと回答はAIではなく職員が責任を持って用意する。AIの役割は、県民からインターネットを通じた質問が寄せられた時に、どの回答に結びつけるかの判断だけだ。
自動応答型では、香川県三豊市で支障が起きた前例がある。
三豊市のゴミ出しは18分別と種類が多い。さらに、平成大合併で一緒になった旧7町ごとに収集日が違うことから、市への問い合わせが多かった。そこでChatGPTを使い、ネットを介して自動応答すれば、省力化につながると考えた。これだと24時間答えられ、仕事で滞在している外国人にも母国語で返答できる。
2023年、AIにゴミ出しルールを学ばせたうえで実証実験を始めると、正答率は62.5％にしかならなかった。自治会名や住所で尋ねられると収集日が答えられず、複数の材質でできた廃棄物の分別も説明できなかった。
誤答はその都度修正してAIに学ばせたが、職員がいちいち正しい答えをホームページに掲載しなければならず、大変な手間になった。
これらの問題に対処できるよう全面的にAIに学び直させ、一問一答形式だったのを、正答に近づけやすい対話形式にするなどして、2回目の実証実験を行った。それでも正答率は94.1％と、目標とした99％には届かなかった。
このため本格導入は断念せざるを得なかった。
三豊市の担当者は当時、「質問によって回答が変わったり、学習させたのに情報が引き出せなかったりして、原因不明の誤答が解消できず、そうした壁がどうしても越えられませんでした」と話していた。
生成AIの回答にはブレが出ることが知られている。だから、100％正しい回答が求められるような行政ジャンルには適していない。
鳥取県の下田局長は「正答率が100％でなくても許され、『参考程度でいい』という情報発信で活用することはあり得ます。そうした技術特性なのだと利用者に伝えたうえで、どんな回答をしているかのチェックをしながら使っていくのです」と語る。
葉上 太郎
