Vitalik Buterin 拒绝 AI 网络安全末日论，支持数学软件证明

币安Binance

币安交易所是全球加密货币交易所龙头，在手机上即可买卖比特币等数字货币！

官网注册  APP下载

以太坊联合创始人维塔利克·布特林：AI不会终结网络安全，形式化验证才是关键

尽管有人担忧人工智能将导致网络安全防御彻底失效，但以太坊联合创始人维塔利克·布特林（Vitalik Buterin）对此表示反对。他认为，形式化验证技术有望帮助开发者构建出攻击者难以利用的软件系统。

这一观点揭示了“安全”定义的复杂性，因为威胁可能来自消息、服务器、操作系统、数据库、库、编译器以及硬件等多个层面。与此同时，人工智能在部署前通过审查规范、暴露缺失假设以及支持复杂技术系统的数学证明，有望增强防御方的能力。

AI与网络安全的博弈：从漏洞挖掘到形式化验证

针对关于AI驱动黑客行为和复杂网络攻击的担忧，布特林在社交媒体平台X上发文阐述了自己的观点。他承认，强大的AI系统确实可能帮助恶意行为者更快地识别漏洞并设计更有效的攻击手段。然而，他坚信同样的技术也能赋予防御方更强大的工具，用于构建和验证涉及安全的关键程序。

其论点的核心在于“形式化验证”（Formal Verification）。这是一种利用数学方法来确定软件是否满足特定要求的技术。开发者可以利用该方法在部署前检查程序行为并发现潜在弱点。此外，AI能够大幅减少完成复杂数学安全证明所需的时间、专业知识和资源。具备证明困难数学陈述能力的系统，可以展示程序如何符合既定的安全要求。

定义软件安全仍面临巨大挑战

尽管前景广阔，形式化验证仍面临一个主要障碍：开发者必须清晰地定义软件应维持的每一个安全属性。布特林以Signal加密即时通讯应用为例，说明了为何为加密消息创建完整的安全定义变得如此复杂。

攻击者可能伪造消息、阻断投递、重放通信或入侵支持该平台的服务器。此外，恶意行为者还可能操纵公钥发现机制，或利用用户操作系统中的漏洞。安全失败也可能源于损坏的数据库、恶意的库、被污染的编译器或泄露敏感信息的硬件。即使加密保护了消息内容，攻击者仍可能识别参与者并观察通信模式。因此，仅保护内容无法代表 messaging 服务的完整安全标准。开发者必须考虑身份验证、元数据保护、消息投递、设备完整性以及支撑基础设施等多方面的因素。

布特林指出，详细的安全定义可能超过一千行代码，因为它们必须应对众多威胁。数学证明只能确认包含的属性，而模型之外的未识别风险依然存在。然而，AI可以帮助工程师审查规范、识别缺失的假设，并在部署前加强安全定义。最终，其对网络安全的影响取决于开发者定义保护措施的有效性以及在技术系统中应用形式化验证的程度。