私が児童相談所に勤務していた頃も、過去に一時保護歴や施設入所歴がある子どもが、長期間欠席しているという情報が入ったら、すぐに家庭訪問し、子どもの身体の傷・あざの確認、子どもからの聞き取りは必ず行っていた。そこから即保護となった事例もあった。それだけ、長期欠席は危険で虐待を疑うべきなのだ。
また、「システム導入により、判断が難しい外傷や居室内の様子を写真で児童相談所内と共有でき、速やかな意思決定ができるようになった」ともある。報道によると、女児の遺体に複数の傷・あざがあった。家庭訪問をしていれば、傷・あざを確認でき、一時保護となり、子どもの命は救えただろう。
資料内の現場の声として、「AI支援機能を利用していくことで、現場で『不明』となっているリスク項目から優先的に調査し、効果的に危険因子をつぶしていくことができた」ともある。この事件において、「不明」だった危険因子は子どもの安全だ。優先的に調査すべき危険因子が調査できていなかったということだ。
児相に通告が入って女児の傷やあざが確認されていたのに
さらに、「既存のシステムとAIシステムを併用している為、日々の経過記録やリスクアセスメントシートの同期作業が必要だった」とも資料にはあるが、同期していたのであれば、長期欠席をAIは「リスク高」と評価しなかったのか？ そんなはずはない。累積1万件を超えるデータが蓄積されており、「AIが過去の知見に基づき、総合リスク、再発確率、過去の類似ケースを即座に導きます」とあり、かつ、再発率との関係において「過去に通告歴がある」という場合は再発率が上昇する、とシステムには入っているのだ。この家庭は施設からの家庭復帰後に通告が入り、傷・あざが確認されている。これだけでも虐待リスクは高いと言えるのだ。
さらなる大きな疑問は、三重県議会全員協議会での報告の中で、県担当者がAIの評価について「感覚的にもしっくりくる評価だった。違和感はなかった」と述べている点だ。まさにこの担当者の認識が、AIの数字に反映されたということだ。担当者の経験年数は分からないが、児童相談所で長年経験を積んだ福祉司、あるいは心理司なら、大きな違和感を抱いたはずだ。「こんなに数字が低いはずがない」と。
