文春オンライン

「田舎者はAIも使えないのか」それでも平井伸治・鳥取県知事が「人工知能導入は民主主義の危機をもたらす可能性がある」と訴えるワケ

民主主義とデジタル社会、鳥取県の問題提起#1

2024/05/31
note

「ChatGPTの回答に基づいて条例などが作られ、全く人間が絡まず、誰も検証しないというのが最悪のシナリオ」「(行政には)決定理由の説明責任がある。ChatGPTが回答したからということでは認められない」と危惧する発言もあった。

 ただ、生成AIをもっと前向きに使っていくべきだとする意見が多かった。

 本格利用に向けたガイドラインについては、「『地方自治は現場が重要』という理念は当然大切だが、生成AIが全く役に立たないようなトーンが強くなりすぎないよう記載方法に留意する必要がある」「こういうことにしか使ってはならないという限定的な書き方ではなく、活用できることを積極的に明記することも一つの方法」「様々なメリットがあるのでポジティブに記載することも考えられる」といった声があった。

ADVERTISEMENT

 研究会は生成AIだけでなく、デジタル社会全体を取り巻く様々な問題についても議論し、どう向き合っていくかの指針として、10項目の「自治体デジタル倫理原則」をまとめた。

 それぞれの概略は次の通りだ。

 1)住民自治の原則
 地域のことは住民の意思に基づき検討や議論を重ねて決定

 2)人権保障の原則
 偽・誤情報の拡散被害から住民を守る視点で対策を実施。厳正に個人情報を保護

 3)インクルーシブの原則
 ジェンダー、LGBTQ、国籍、年齢……、誰一人取り残されない行政サービスの提供

 4)パートナーシップの原則
 住民や企業などとの協働・連携を密に。地域社会への効果を最大化へ

 5)課題解決志向の原則
 技術の導入が目的ではない。住民の暮らしやすさにつながる行政サービスを

 6)人間主導の原則
 生成AIの出力結果のみに頼らず、人間が責任を持って決定

 7)リテラシーの原則
 偽・誤情報に惑わされないための知識の普及。職員のスキルも向上

 8)透明性の原則
 AIの回答を使用した場合はそのことを住民に公表

 9)ガバナンスの原則
 技術の適正な活用に向け、デジタル施策の効果を検証

 10)機敏性の原則
 先端技術の発展にあわせて、試行錯誤も含めて適時見直し、積極的かつ機動的に活用

 報告書にはこれら10項目についてのポイントも説明した。そのうちの一部を紹介する。

鳥取県が考える“デジタルによる効率化の基本”

「AIは学習データの偏りをそのまま反映する可能性があるため、特定の集団が排除されるなど、社会の多様性が考慮されない恐れがある」(インクルーシブの原則)

関連記事