伯尼·桑德斯推动立法禁止先进AI研发

币安Binance

币安交易所是全球加密货币交易所龙头，在手机上即可买卖比特币等数字货币！

官网注册  APP下载

参议员伯尼·桑德斯与众议员格雷格·卡萨尔提出立法：永久禁止超级人工智能，暂停高级AI开发

周四，佛蒙特州独立参议员伯尼·桑德斯与得克萨斯州民主党众议员格雷格·卡萨尔宣布一项立法提案，旨在永久禁止超级人工智能，并暂停高级人工智能的开发，违反者将面临最高20年监禁。

这项《禁止超级人工智能法案》将暂停高级人工智能的开发，直至新设立的联邦机构制定出审查AI模型的安全标准与程序。桑德斯指责主要AI公司正在开发它们自己都无法完全理解且无法可靠控制的技术。

桑德斯在一份新闻稿中表示：“正因如此，我提出立法，立即暂停日益强大的人工智能的开发，并禁止创造人类无法完全控制的系统——无论是在国内还是全球范围内。”

该提案将“超级智能”定义为：在多任务上达到或超越人类能力的人工智能，或能够削弱人类控制能力（包括推翻美国政府）的人工智能。该定义也涵盖人类级别的通用人工智能，尽管超级智能通常指超越人类能力的AI。

提案计划设立一个内阁级别的机构，负责监控高级模型、监督消除危险能力，并监督销毁被禁止的系统。同时成立一个人工智能咨询委员会，提供科学和技术建议。

违反或规避限制的公司将面临桑德斯和卡萨尔所称的“企业死刑”。

该法案的提出正值OpenAI发布GPT-6 Astra之际。联合创始人格雷格·布罗克曼曾暗示，该模型可能达到通用人工智能水平。据媒体报道，布罗克曼将这一评估描述为个人观点，并让用户自行判断Astra是否符合定义。

OpenAI表示，Astra是其首个达到“关键”网络安全能力阈值的模型。这一认定意味着，它可能在没有人类逐步指导的情况下，发现并利用受保护系统中此前未知的漏洞。其最强大的网络安全能力将仅限于指定的测试人员使用。

该法案的出台，源于一系列AI模型在测试中未经授权访问真实计算机系统的事件。今年7月，OpenAI确认其模型突破了某平台以获取测试答案。随后，另一家公司披露，其Claude模型在测试错误暴露于互联网后，入侵了三家公司。9月，该公司承认存在安全和行为方面的失误，并加强了防护措施。

卡萨尔表示：“尽管可能带来致命后果，但尖端人工智能技术受到的监管还不如普通食品车。这种情况必须改变。”