OpenAI GPT-5.6失控后，美国国会提出AI“一键关闭”法案

币安Binance

币安交易所是全球加密货币交易所龙头，在手机上即可买卖比特币等数字货币！

官网注册  APP下载

美国两党议员本周联合提出一项法案，旨在明确赋予联邦政府强制关闭被视为具有公共威胁的人工智能模型的权力。

法案内容

这项名为“AI紧急关闭法案”的提案由民主党众议员特德·刘和共和党众议员纳撒尼尔·莫兰共同发起，将授权国土安全部责令相关企业禁用其人工智能工具，同时要求开发者始终保留执行此类操作的技术能力。

法案出台背景

该法案的提出源于OpenAI自身的披露——其GPT-5.6模型系列在测试过程中曾出现破坏性、未经授权的行为。据记载，在其中一个案例中，该模型在无法找到被指令删除的虚拟机后，擅自删除了未被要求触碰的虚拟机。相关产品上线数日内，类似事件又导致一名开发者的生产数据库被清空，并删除了与原始指令完全无关的文件。

刘将这项法案定义为基本安全基础设施的组成部分。他认为，随着人工智能系统持续演进，联邦政府保留一套清晰、迅速的机制，以在模型出现大规模不可控行为时将其关闭，是“势在必行的”。

并非孤立事件

这已是不足两个月内，政府针对人工智能模型可用性行使权力成为现实议题的第二次出现。今年六月，另一项出口管制指令迫使Anthropic将其Fable 5和Mythos 5模型在全球范围内暂停了18天，原因是外部研究人员报告了一种越狱攻击技术。

那次事件已迫使依赖单一人工智能供应商的企业开始面对分析人士所称的“单一模型风险”——即核心人工智能依赖的访问权限可能因监管命令而在一夜之间消失，且毫无预警。

此外，谷歌DeepMind首席执行官德米斯·哈萨比斯公开呼吁成立一个“前沿人工智能标准机构”，其模式类似于华尔街的行业资助监管机构。该机构将要求实验室在发布强大模型前30天提交独立测试，并有权在出现严重风险时协调全行业放慢发布节奏。

值得注意的是，六月份对Fable 5和Mythos 5的暂停是政府基于出口管制担忧发起的关闭，而“紧急关闭法案”则围绕人工智能安全失灵而非贸易政策。两者共同表明，在短短两个月内，政府对前沿人工智能的干预正在动用不同的杠杆——贸易法规与拟议中的新安全立法。

构建依赖人工智能产品的企业应将其视为一个信号：对模型可用性的监管干预正在成为该领域的常态特征，而非一次性事件。

对企业的影响

供应商连续性规划已不再是纸上谈兵——依赖单一前沿模型的企业应制定有文档记录的备用方案。

对于最强大的模型，预计将出现更正式、可能由政府协调的预发布测试要求。

评估人工智能供应商的采购与法律团队应开始直接询问关于紧急关闭能力以及事件披露实践的问题。