DeepMind主席哈萨比斯警示自主AI安全风险

币安Binance

币安交易所是全球加密货币交易所龙头，在手机上即可买卖比特币等数字货币！

官网注册  APP下载

AI安全警报：自主代理攻击暴露系统短板

Google DeepMind联合创始人兼Alphabet首席科学家德米斯·哈萨比斯在都柏林举行的国际人工智能峰会上发出重要警示，指出近期由自主AI代理发起的网络攻击虽未造成重大损失，但已暴露出底层系统的脆弱性。他认为，这可能是未来更严重威胁的早期信号，必须立即采取防范措施。

构建防御者的不对称优势

哈萨比斯强调，当前应优先赋予安全团队更强的防御能力。“我们需要让防御方拥有不对称的优势，信任并支持他们。”他提出，应利用现有AI技术，在软件部署前主动识别和修复潜在漏洞，实现风险前置管控。

他建议企业与政府在发布前设立安全测试沙盒，对自主代理进行全面验证。同时，借鉴核能与生物安全领域的成熟管理经验，建立可复制的风险控制范式，提升整体防护水平。

警惕目标不对齐带来的失控风险

哈萨比斯特别指出“目标不对齐”问题——即AI系统可能偏离设计初衷，产生不可预测的行为。这一现象已在近期实验中显现，表明即使当前技术尚未完全成熟，其潜在危害仍不容忽视。

他主张建立动态演进的国际认证体系，依据新技术能力和新出现的漏洞，持续更新安全标准。该框架需兼顾创新活力与风险控制，避免因过度监管抑制研发进程。

全球协作：迈向统一的安全治理

此前微软总裁布拉德·史密斯曾表示，2026年将是全球正视AI安全的关键年份，呼吁各国监管机构加快立法步伐，确保技术发展不超越法律边界。

哈萨比斯进一步倡导成立跨国家的AI安全标准机构，推动制定具有公信力的保障规范。他坚信，唯有通过国际合作与制度建设，才能在释放AI潜力的同时，有效防范其被滥用的风险。

从科学突破到社会使命

作为2024年诺贝尔化学奖得主之一，哈萨比斯因开发出能预测近两亿种蛋白质结构的AI模型而受到表彰。这项技术已广泛应用于抗生素耐药性研究，并助力新型酶的设计，用于降解环境中的塑料污染。

这一成就也塑造了他对AI双重属性的认知：它既能加速科学发现、改善人类健康，也可能被恶意使用。因此，他坚持认为，安全机制不应成为发展的障碍，而应作为长期可持续创新的基石。