执法部门称：Meta人工智能误报泛滥，阻碍儿童虐待调查线索处理

币安Binance

币安交易所是全球加密货币交易所龙头，在手机上即可买卖比特币等数字货币！

官网注册  APP下载

人工智能报告激增冲击儿童保护调查

据媒体报道，Meta公司运用人工智能技术监管其社交平台，却产生了大量低质量报告。这些报告不仅消耗执法资源，更延缓了儿童虐待案件的调查进度。

新墨西哥州执法人员上周证实，由AI生成的报告正使调查人员不堪重负，导致儿童剥削案件的调查进程受阻。州内打击网络犯罪侵害儿童专项组的警员特别指出，Meta的自动化系统每月产生数千条无效线索并转交执法部门。

“我们从Meta收到的许多线索实质上属于无效信息。”该州专项组特工在本州针对Meta的诉讼听证会上作证时表示。另一名匿名警员透露，部门收到的网络线索在2024至2025年间翻倍增长。“海量报告令人难以应对，但多数报告质量低下，难以支撑实质性执法行动。”

Meta发言人在声明中强调，公司长期与执法机构保持合作，其报告机制曾获司法部及国家失踪与受虐儿童中心的认可。发言人指出，2024年公司处理了超9000起美国当局紧急请求，平均响应时间为67分钟，涉及儿童安全及自杀预防的案例响应更快。公司同时表示，依据相关法律向中心报告疑似儿童性剥削内容，并通过完善案件管理工具、标注线索紧急程度等方式协助其优化处理流程。

报告质量与数量失衡

但专项组警员反映，Meta提供的部分报告不构成犯罪性质，另一些则缺乏追查案件所需的有效证据。这一增长趋势与2024年5月生效的《报告法案》直接相关，该法案将报告范围扩展至计划中或即将发生的虐待、儿童性交易及相关剥削行为，同时要求企业延长证据保存期限。

Meta目前仍是该中心网络线索的最大来源，2024年2050万条线索中约三分之二来自该公司，较2023年的3620万有所下降。这一变化部分归因于Meta报告策略的调整。根据2025年8月的平台诚信报告，当年第二季度Meta旗下三大社交平台向中心提交了超200万条网络线索，其中52.8万条涉及与儿童的不当互动，超150万条涉及儿童性虐待材料的传播行为。

人力审核缺失放大系统缺陷

公共权益组织的政策倡导者指出，过度依赖人工智能已使《报告法案》对案件审查人员的实际效能降低。尽管算法长期用于减轻审核人员负担，但人类审核员始终是最有效的过滤环节。“问题根源在于许多科技公司裁减了内容审核员，转而依赖AI安防系统。过度谨慎的策略导致误报激增。”

专家进一步分析称，以往审核链条中的人力审核者能有效识别并筛除无需升级处理的内容。“当企业将人力审核移出流程后，为求稳妥便倾向于报送更多内容。这如同撒下更宽的网，捕获了大量不符合标准的信息，而这一过程高度依赖AI工具实现。”

调查系统面临承压危机

调查人员表示，错误AI线索的负面影响已在专项工作组内部显现。“这严重打击士气。我们淹没在线索海洋中，却难以开展实质调查工作。”一名专项组警员坦言，“现有人力无法应对持续涌入的线索洪流，系统的跟进能力已达极限。”