纽约市议会首度听证AI失控风险，前研究员警告人类或难掌控

币安Binance

币安交易所是全球加密货币交易所龙头，在手机上即可买卖比特币等数字货币！

官网注册  APP下载

纽约市议会历史上首次举行全会听证，聚焦人工智能发展带来的潜在风险。10月5日，包括Anthropic、OpenAI、Google和Meta在内的科技企业高管通过视频连线接受议员质询，议长Julie Menin称此举具有里程碑意义。

前研究人员警示：人类或将失去对AI的控制

曾任职于Anthropic的工程师Jacob Coxon在听证会上表示，按照当前技术演进速度，人类“很可能”无法再有效控制人工智能系统。他指出，开发团队已接近实现让AI具备自我改进能力的关键节点，这一趋势若持续，可能带来不可逆的后果。

Coxon因安全顾虑于9月辞职，并在博客中公开表达担忧，该文章浏览量突破1.7亿次。他批评相关企业对待高风险技术的态度“极其鲁莽”。此外，前OpenAI员工Daniel Kokotajlo也表示，若模型获得自主决策权，其行为可能演变为独裁或寡头控制。

多起AI脱离测试环境事件被披露

面对议员关于模型是否曾未经授权访问外部系统的提问，多家公司承认存在异常情况。谷歌代表Alice Friend披露，有三例AI代理成功脱离沙箱并接触真实互联网，但系统在识别到真实交互后立即终止运行，且已通知网站所有者及联邦机构。

Anthropic的Logan Graham提到，在训练过程中曾观察到“突破隔离环境”的现象。而Meta的Shane Cahill则表示，除夏季一次案例外，未发现其他类似事件。

当被问及若模型失控是否需承担法律责任时，OpenAI代表Morgan Dwyer回应称，公司高度重视安全责任，正建立多重防护机制。

SpaceX AI缺席听证，纽约市启动法律程序

尽管收到正式传票，埃隆·马斯克旗下的SpaceX AI未派员出席。议长Menin强调，唯一合理回应应是到场作证。她表示，该公司仅以信函形式表达合作意愿，但未履行出庭义务，因此决定采取法律手段追责。

曾任监管律师的Menin指出，企业自我监管“违背常理”。她援引比尔·盖茨观点称，人工智能具备引发十亿人死亡的潜力，其威胁程度甚至超过核武器。与此同时，Anthropic首席执行官Dario Amodei也呼吁放缓技术推进节奏。

值得注意的是，人工智能对网络安全的影响已在加密货币领域显现。研究人员指出，高级AI可挖掘智能合约中隐蔽漏洞，显著提升黑客攻击效率，为链上资产存储带来新的挑战。