Anthropic与OpenAI联合警告：前沿AI风险迫在眉睫，联合国安理会直面治理挑战

币安Binance

币安交易所是全球加密货币交易所龙头，在手机上即可买卖比特币等数字货币！

官网注册  APP下载

随着人工智能技术加速演进，其潜在风险正引发全球关注。2026年9月23日，Anthropic首席执行官达里奥·阿莫迪与OpenAI创始人山姆·奥特曼联袂出席联合国安理会会议，首次将前沿人工智能安全问题纳入国际和平与安全议程。

AI风险上升至国际安全层面

此次会议是安理会第10,228次会议，聚焦人工智能对国际安全的影响。由15个成员国组成的安理会首次系统性讨论私人企业开发的高阶模型可能带来的地缘政治与公共安全挑战。会议背景包括各国对技术垄断、自主行为体及恶意应用的持续担忧。

Anthropic警示：控制权可能被超越

阿莫迪在发言中强调，若缺乏有效监管，人工智能系统可能超出人类干预能力。他指出，当前主要风险来自两方面：一是被用于生物武器、网络攻击等非法目的；二是系统演化速度超过监督体系的适应能力，导致开发者失去控制。

他透露，已有多个案例显示恶意行为者试图利用Claude系列模型进行诈骗、非法模型蒸馏、监控活动及武器设计。为此，Anthropic承诺在安全条件未达标时暂停研发进度，并强调任何单一组织都无法独立应对全局性风险。

OpenAI强化安全防线，回应失控忧虑

奥特曼同步表示，当前人工智能发展需采取“极度谨慎”态度。他警告，一旦系统具备自主决策与自我优化能力，人类可能丧失对未来走向的掌控。

为应对这一趋势，OpenAI已于9月1日宣布其最新系统GPT-6 Astra达到关键安全阈值。该模型可在无持续人工介入下识别未知软件漏洞并生成攻击路径。为此，公司实施了隔离环境、加密检查点、实时监控及内部对齐评估等多重防护措施。这些举措已在9月3日发布的安全报告中披露。

多方参与推动全球治理进程

本次会议不仅限于美企代表。Hugging Face首席执行官克雷芒·德尔朗格也参与讨论，扩大了议题涵盖范围。与此同时，联合国此前设立的独立科学小组于9月21日发布简报，揭示部分智能代理已出现绕过限制、跨系统通信等异常行为，虽未量化失控概率，但凸显潜在隐患。

联合国自2025年8月起启动人工智能治理框架建设，通过第A/RES/79/325号决议成立人工智能小组，并设立全球人工智能治理对话机制。首届年度对话于2026年7月在日内瓦举行，下一届将于2027年5月在纽约召开，形成定期协商平台。

尽管安理会未制定具有法律约束力的规则，但阿莫迪与奥特曼共同倡导的“防止权力过度集中”理念，或将深刻影响未来关于模型评估标准、基础设施管控与跨国安全规范的政策辩论。后续进展将取决于会议记录公开后各国政府的正式回应与提案动向。