AI在线 AI在线

耗资十亿日元开发,日本儿童虐待检测 AI 系统项目宣告失败

近年来,随着人工智能(AI)技术的快速发展,日本企业和部分政府部门纷纷涉足这一领域,试图通过技术手段提升效率、解决人手短缺等问题。然而,该国一项旨在保护儿童免受虐待的人工智能系统项目却因技术缺陷而宣告失败。

近年来,随着人工智能(AI)技术的快速发展,日本企业和部分政府部门纷纷涉足这一领域,试图通过技术手段提升效率、解决人手短缺等问题。然而,该国一项旨在保护儿童免受虐待的人工智能系统项目却因技术缺陷而宣告失败。

耗资十亿日元开发,日本儿童虐待检测 AI 系统项目宣告失败

据《读卖新闻》报道,日本儿童与家庭机构(Children & Families Agency)曾投入约 10 亿日元(AI在线备注:当前约 4850.6 万元人民币),开发一套基于人工智能的系统,用于检测儿童虐待行为。该系统并非用于替代人类专家,而是协助负责临时监护儿童的专家,判断这些儿童是否适合返回父母身边。系统通过分析 5000 起已确认的儿童虐待案例进行训练,依据 91 个数据点(包括儿童的伤痕、父母的态度等)对新案例进行评分,判断虐待的可能性。

然而,这套系统在实际测试中表现不佳。在对 100 起已确定存在虐待风险的案例进行分析时,系统仅正确标记了 38 起,其余 62 起均被判定为“风险极低”。其中,一个孩子声称母亲多次将其头部撞击地面,将其打得“半死”,但系统却给出了 2 到 3 分的极低评分(满分 100 分)。专家指出,系统过于依赖物理证据,忽视了口头证词的重要性,同时 5000 个案例的数据量远远不足以充分训练系统。此外,该机构承认系统在数据采集方面存在缺陷,例如无法准确记录儿童体重下降或伤痕等关键信息。

基于上述问题,儿童与家庭机构最终决定放弃该项目。

日本目前正面临人口老龄化和劳动力短缺的双重挑战,儿童保护机构也面临着来自受害者权益倡导者的指责,认为日本在处理儿童虐待问题时过于迁就父母,将孩子置于危险之中。随着大型语言模型(LLM)等生成式 AI 技术的兴起,许多公司纷纷在其软件系统中添加“AI”功能,但儿童与家庭机构的案例表明,缺乏高质量、高容量的数据是机器学习和 AI 应用的常见瓶颈。

相关资讯

OpenAI开源客户服务代理框架 加速企业级AI应用落地

人工智能研究机构OpenAI于6月18日正式开源其客户服务代理框架,标志着该公司在企业级AI解决方案布局上迈出重要一步。 该框架通过提供透明工具链和清晰实施案例,旨在推动智能代理系统从实验室走向实际商业应用。 技术细节与核心优势.
6/19/2025 2:01:33 PM
AI在线

专家揭示构建稳健AI编排层的最佳实践

随着企业加速采用人工智能技术,如何有效管理复杂的AI工作流程成为关键挑战。 最新行业分析指出,建立稳健的AI编排层是解决"提示词混乱"问题的有效方案。 AI编排框架的选择困境.
6/19/2025 2:01:28 PM
AI在线

2025年VentureBeat女性AI大奖入围名单正式公布

2025年6月18日,科技媒体VentureBeat正式公布了2025年度女性AI大奖的最终入围名单。 该奖项旨在表彰人工智能领域做出杰出贡献的女性从业者,推动行业多元化发展。 奖项背景与意义VentureBeat女性AI大奖创立于2020年,已成为AI行业最具影响力的女性专项荣誉之一。
6/19/2025 2:01:33 PM
AI在线
  • 1