児童虐待AIの委託先を特定！「多重下請け」こども家庭庁

こども家庭庁が虐待が疑われる子どもの一時保護を巡り、人工知能(ＡＩ)に一時保護の必要性を判定させるシステムに複数の企業が関係していることが明らかになりました。

こども家庭庁が児童虐待AIを委託した企業

こども家庭庁が児童虐待AIを委託した企業はどこでしょう。

１０億円かけた虐待判定ＡＩ、こども家庭庁が導入断念…ミス６割で「実用化困難」 https://t.co/EzqVvusQU1
こども家庭庁 児童虐待防止対策部会（第5回） https://t.co/KtXTCGxYbe 資料5に「約６割のケースでスコアに疑義が生じた」とあるが、このことか。どこの業者が作ったAIなんだろう？

— Haruhiko Okumura (@h_okumura) March 2, 2025

2024年4月22日に入札公示を見ると、以下のことが明らかになりました。

〇虐待防止のためのＳＮＳを活用した全国一元的な相談支援体制の構築に係るシステムの改修業務一式（令和６年度）

• 富士通株式会社　落札額207，900，000円

〇児童相談所におけるＡＩを活用した緊急性の判断に資する全国統一のツールに係るＡＩアルゴリズムの開発・テスト業務に関する工程管理支援等業務一式（令和６年度）

• 株式会社野村総合研究所　落札額114，400，000円

〇児童相談所におけるＡＩを活用した緊急性の判断に資する全国統一のツールに係るＡＩアルゴリズムの開発・テスト業務一式（令和６年度）

• 株式会社ＮＴＴデータ　落札額433，400，000円

少なくとも富士通株式会社、株式会社野村総合研究所、株式会社ＮＴＴデータの３社が関与していたといえます。３社の落札額の合計金額は7億5570万円になります。

国が2021年度から約10億円をかけて虐待判定AIの開発を進めていたので、残りの約３億円については2024年4月より前にかかった金額でしょうか。

児童虐待AI10億円の流れ「多重下請けか」

児童虐待AIシステムの10億円の流れが不明なため、ネットでは「金の流れをはっきりさせろ」「この庁はやることなすこと税金垂れ流し」などが書かれていました。また、多重下請けの流れについても書かれていました。

コメントでは厚生労働者やこども家庭庁が４億円確保し、残りの６億円を１社が応札し、複数の協力会社が受注、多重下請けをしていたのではないかと書かれていました。

そのため、落札させた３社の下請け会社も複数存在するかもしれません。

こども家庭庁が開発した児童虐待AIシステムについて

こども家庭庁が約10億円を投じて開発したAIシステムは、児童虐待の疑いがある子どもを一時保護するかどうかの判断を支援するためのものです。

システムの目的

児童相談所の業務負担を軽減し、虐待の見落としを防ぐことを目的としています。

システムの仕組み

• 職員が91の項目（傷の有無、保護者の態度など）を入力すると、虐待の可能性を0〜100点でスコア化します。

• 「一時保護スコア」と「再発スコア」などを算出して、職員の判断を支援します。

開発の経緯

• 2021年度から開発が開始され、2022年度から2023年度にかけてプロトタイプがほぼ完成しました。

• 過去の虐待データ約5000件を学習させました。

問題点と導入見送り

実際の運用テストで、AIの判定精度に大きな問題が発生しました。約6割のケースでスコアに疑義が生じ、重大な見落としがあったため、2024年度の導入が見送られました。

外部有識者を交えた検討会では、事前に定められた一定の項目の該当有無だけでは、リスクスコアを算出する情報として十分ではないが、これ以上の項目追加は入力負荷の観点から現実的ではないという考察でています。

AIの技術の進展を見ながら、今後の活用方法を検討中です。このAIシステムは、児童相談所の業務効率化と質の向上を目指しましたが、精度不足により導入が延期されました。

児童虐待対応システムAiCANも複数の機関と連携

国立研究開発法人 産業技術総合研究所（産総研）が開発した児童虐待対応支援システム「AiCAN（Assistance of intelligence for Child Abuse and Neglect）」を見ると、複数の機関や企業と連携して進めていることが分かります。

AiCAN（Assistance of intelligence for Child Abuse and Neglect）は、児童相談所向けに開発された業務支援アプリです。このシステムは、タブレット端末用アプリとクラウド上の計算サーバーおよびデータベースで構成されている。

児童虐待対応支援システム「AiCAN」を見ても、複数の企業と連携して取り組んでいました。そして、三重県の児童相談所でシステムの実証実験が行われています。

令和5年度補正予算関係資料（支援局虐待防止対策課）によると、児童相談所におけるＡＩを活用した緊急性の判断に資する全国統一のツールの賃金の流れは「システム改修事業者」と「工程管理事業者」に委託しています。

そして、児童虐待AI事業は国が100％補助し、各自治体が円滑に運用開始できるよう特定の1社に一括して委託したわけではなく、複数の企業や機関と連携して開発を進めていました。