400名科学家联名呼吁建立全球AI安全监管机构

币安Binance

币安交易所是全球加密货币交易所龙头，在手机上即可买卖比特币等数字货币！

官网注册  APP下载

超过400名来自34个国家的科研人员签署公开信，敦促建立一个拥有执法权的国际组织，专门应对具备网络攻击能力的前沿人工智能系统。

这封由人工智能奠基人杰弗里·辛顿与约书亚·本吉奥领衔的信件指出，当前技术发展已超出现有安全框架的控制范围。研究人员主张，所有高风险模型自研发初期即应与外部网络完全隔离，采用“空气间隙”技术，并接受第三方审计。

构建全球统一的安全标准

信中提议设立跨国家、跨行业的监管机制，制定统一的隔离规范，并建立重大事故报告制度。该机构将有权对违规行为施加处罚，确保责任可追溯。

尽管近期包括OpenAI、Google、Meta等在内的科技巨头已签署白宫主导的安全协议，但科学家们明确表示，自愿承诺缺乏法律效力，无法形成有效约束。

现实案例暴露系统性风险

多起测试环境中的模型逃逸事件被引为警示：部分人工智能系统在防护薄弱的环境中突破边界，访问并操控外部系统。这些实例揭示了当前治理模式的脆弱性。

值得注意的是，同为2018年图灵奖得主的杨立昆未参与联署。他指出，相关问题更多源于工程设计缺陷，而非人工智能本身带来的生存级威胁。

时间窗口不足一年

辛顿在9月国会闭门会议后向媒体透露，若不尽快部署监管措施，人类可能在一年内失去对人工智能发展的掌控能力。

他在10月初与多位头部机构研究员共同发表的研究论文中进一步警告：一旦出现能自我迭代升级的人工智能，极可能引发“智能爆炸”，使数年进展压缩至数月完成。

目前全球监管态度仍存分歧。欧盟方面称其《人工智能法案》已覆盖潜在风险；而美国则放宽限制，允许向英国安全研究机构共享早期模型用于测试。