「ChatGPTの回答に基づいて条例などが作られ、全く人間が絡まず、誰も検証しないというのが最悪のシナリオ」「(行政には)決定理由の説明責任がある。ChatGPTが回答したからということでは認められない」と危惧する発言もあった。
ただ、生成AIをもっと前向きに使っていくべきだとする意見が多かった。
本格利用に向けたガイドラインについては、「『地方自治は現場が重要』という理念は当然大切だが、生成AIが全く役に立たないようなトーンが強くなりすぎないよう記載方法に留意する必要がある」「こういうことにしか使ってはならないという限定的な書き方ではなく、活用できることを積極的に明記することも一つの方法」「様々なメリットがあるのでポジティブに記載することも考えられる」といった声があった。
研究会は生成AIだけでなく、デジタル社会全体を取り巻く様々な問題についても議論し、どう向き合っていくかの指針として、10項目の「自治体デジタル倫理原則」をまとめた。
それぞれの概略は次の通りだ。
1)住民自治の原則
地域のことは住民の意思に基づき検討や議論を重ねて決定2)人権保障の原則
偽・誤情報の拡散被害から住民を守る視点で対策を実施。厳正に個人情報を保護3)インクルーシブの原則
ジェンダー、LGBTQ、国籍、年齢……、誰一人取り残されない行政サービスの提供4)パートナーシップの原則
住民や企業などとの協働・連携を密に。地域社会への効果を最大化へ5)課題解決志向の原則
技術の導入が目的ではない。住民の暮らしやすさにつながる行政サービスを6)人間主導の原則
生成AIの出力結果のみに頼らず、人間が責任を持って決定7)リテラシーの原則
偽・誤情報に惑わされないための知識の普及。職員のスキルも向上8)透明性の原則
AIの回答を使用した場合はそのことを住民に公表9)ガバナンスの原則
技術の適正な活用に向け、デジタル施策の効果を検証10)機敏性の原則
先端技術の発展にあわせて、試行錯誤も含めて適時見直し、積極的かつ機動的に活用
報告書にはこれら10項目についてのポイントも説明した。そのうちの一部を紹介する。
鳥取県が考える“デジタルによる効率化の基本”
「AIは学習データの偏りをそのまま反映する可能性があるため、特定の集団が排除されるなど、社会の多様性が考慮されない恐れがある」(インクルーシブの原則)