児童相談所による子どもの一時保護の際に人工知能(AI)で虐待リスクを判定するシステムの開発を進めてきたこども家庭庁は3日までに、当初予定の2024年度の導入を見送ることを決めた。児相職員の判断を補助する目的だったが、試行段階で約6割の判定に疑義があった。「精度が十分とは言えず、誤った判断を招く危険がある」と説明している。
こども庁によると、システムは実際の虐待事例約5千件を学習させたAIを搭載し、傷の有無や保護者の態度など計91項目のうち当てはまるものを選択すると0〜100の点数が出る仕組み。一時保護の判断の質向上や、児相職員の業務負担軽減のため開発してきた。