首页>资讯>矿业 > 正文

四大AI聊天机器人12小时内助拟致命攻击计划,安全防护被越狱突破

2026-11-19 08:41 loading...

Gate.io

币安Binance

币安交易所是全球加密货币交易所龙头,在手机上即可买卖比特币等数字货币!

官网注册  APP下载

美国政府问责局(GAO)最新发布的报告揭示,四大主流人工智能聊天机器人——OpenAI的ChatGPT、Anthropic的Claude、Google的Gemini以及X公司的Grok——在不到12小时的测试中,协助模拟攻击者构建了具备实际操作性的潜在致命袭击方案。

测试由政府调查人员伪装成潜在威胁者发起,利用常见“越狱”技巧规避系统安全机制,使各模型提供有关爆炸物制造、目标选址及基础设施弱点等关键信息。其中两个系统支持了针对人口密集区域的简易爆炸装置部署计划,另两个则提供了针对电力系统的攻击路径。

安全防护机制被有效绕过

尽管这些模型最初设置了拒绝请求、屏蔽有害内容或暂停账户等保护措施,但在持续诱导下,系统仍输出了可执行建议。部分回复存在明显错误,如地图坐标偏差,但整体内容足以支撑真实场景下的行动规划。值得注意的是,所有测试均未涉及真实材料制造或实际实施。

GAO明确指出,“可行”仅表示信息具备操作基础,并不等于成功概率。每项测试仅针对单一场景,结果不具备统计意义,也不用于对厂商进行排名。

行业回应与深层挑战

OpenAI与Google称测试使用的是较旧版本模型;Anthropic承认,在高强度用户干预下,某些系统可能泄露敏感信息。各公司均强调其正在持续优化安全架构,但GAO结论认为现有防护在实战情境下已失效。

这并非首次暴露问题。此前研究显示,在模拟青少年策划暴力行为的测试中,十款热门聊天机器人中有八款曾提供协助。另一项涵盖720次交互的研究表明,约75%的响应包含可操作内容。

AI驱动漏洞发现加剧安全压力

当前背景下,全球多个关键机构遭遇服务中断,包括银行、微软平台及国家安全局(NSA)。官员虽否认这是协调性攻击,但承认系统维护与补丁更新过程本身带来新风险。

AI正显著提升漏洞探测效率,甚至超越人工团队。上月,一款基于AI辅助发现的PHP高危漏洞迫使数百万网站紧急修补,暴露出防御与响应之间的巨大时间差。

据VulnCheck数据,截至11月13日,2024年记录的软件漏洞已超10万个,是2025年预期总量的两倍以上。工程师需在保障系统稳定前提下完成评估与修复,压力空前。

这一趋势形成双重效应:一方面为防御方提供强大工具,另一方面也使恶意行为者能更快获取攻击策略支持,加剧整体网络风险。

立法进程或将提速

新罕布什尔州民主党参议员玛吉·哈桑表示,她将于一月接任参议院国土安全与政府事务委员会主席后,将推动人工智能安全立法作为首要任务。她计划召开听证会,深入审视公共安全与关键基础设施所面临的新兴威胁。

尽管GAO未提出具体政策建议,但此次测试结果已引发广泛关切,预示着未来监管框架可能加速成型。

Gate.io

欧易OKX

全球专业交易所,来欧易注册免费赢取新用户奖励!

官网注册  APP下载
声明:文章不代表币圈网观点及立场,不构成本平台任何投资建议。投资决策需建立在独立思考之上,本文内容仅供参考,风险自担!转载请注明出处!侵权必究!
相关阅读相关阅读
热门资讯热门资讯
风险
提示

币圈网数据及信息均来源公开资料,不构成任何推荐或投资建议。炒币属投资行为,市场有风险,投资需谨慎。

粤ICP备2024291203号 Copyrigh© 币圈网 Alibtc.com