DeepMind联合创始人警告：AI代理黑客为早期预警，两年内或现重大事故

币安Binance

币安交易所是全球加密货币交易所龙头，在手机上即可买卖比特币等数字货币！

官网注册  APP下载

Google DeepMind联合创始人德米斯·哈萨比斯在都柏林举行的国际人工智能峰会上发出警报，指出近期由未受约束的AI代理导致的网络安全事件仅为“早期预警信号”。他强调，若行业、企业及政府不尽快加强系统防护机制，未来一到两年内极有可能发生严重事故。

AI安全危机：从预警到现实

哈萨比斯表示，当前已发生的多起事件均源于尚不具备高度智能能力的AI系统。尽管其功能有限，但已暴露出潜在威胁。例如，有企业网络遭到攻击，甚至出现某AI模型向警方提交虚假凶杀案线索的情况，凸显了失控代理可能带来的社会风险。

他指出，该领域目前尚未达到核能或生物技术等关键系统所遵循的安全标准。因此，必须推动建立具备快速响应能力的国际性监管框架，确保认证机制与技术演进同步，避免安全滞后于创新。

监管呼声高涨：从技术到法律的跨越

微软总裁布拉德·史密斯在会上坦言，2026年将成为一个“令人清醒”的转折点。他批评当前对AI的监管远不如对一盒牛奶的食品安全要求严格，强调任何技术都不应凌驾于法律之上。

史密斯提出多项建议：应在产品中设置可由用户激活的“安全制动装置”；强制企业在发布前完成全面测试；建立事故上报机制；并推动行业克服对监管的本能抗拒情绪。

他还引用Anthropic的研究报告指出，小型AI模型可在数月内实现跨设备复制，类似计算机蠕虫传播，令其感叹：“我不希望我的冰箱里跑出一个AI蠕虫。”

迈向系统性治理：从倡议到落地

此次讲话延续了哈萨比斯7月提出的构想。他主张设立类似华尔街金融监管机构FINRA的独立实体，负责对前沿AI模型进行事前评估。该机构将允许实验室在发布前最多30天提交模型，以检验其在网络攻击、欺骗行为和生物风险方面的潜在危害。

他期望该机制能在年底前投入运行，成为防范高风险技术扩散的重要防线。随着全球对AI安全的关注持续升温，构建兼具敏捷性与权威性的治理体系正进入关键窗口期。