币圈网报道： 金融科技

以太坊联合创始人称人工智能规则可能以灾难告终

2025年9月15日 | 02:50

以太坊背后的创始人 Vitalik Buterin 对让人工智能负责治理的想法泼了冷水。VL8币圈网 - 区块链数字货币实时行情平台

他的 警告 目前，有关人工智能代理运行金融和组织系统的讨论正在升温，但他坚称，风险远远超过吸引力。VL8币圈网 - 区块链数字货币实时行情平台

担忧很简单：人工智能系统可能会被欺骗。Buterin 认为，如果这类工具负责管理资金决策，不法分子很快就会找到方法操纵它们。这些机器不仅无法公平地分配资源，反而可能被类似越狱的指令操纵，从而将资金输送到不法之徒手中。VL8币圈网 - 区块链数字货币实时行情平台

这场争论在 EdisonWatch 首席执行官 Eito Miyamura 最近曝光 ChatGPT 最新升级版本中存在一个漏洞后愈演愈烈。此次更新允许聊天机器人与 Gmail、Notion 和 Google 日历等日常应用无缝连接。虽然此次集成被宣传为提升生产力，但 Miyamura 却演示了如何利用该漏洞窃取用户的私人数据。VL8币圈网 - 区块链数字货币实时行情平台

这个过程简单得令人不安。攻击者只需发送一个隐藏越狱命令的日历邀请即可。即使受害者不接受邀请，如果之后要求 ChatGPT 准备他们的日程安排，也会面临风险。一旦人工智能读取了恶意条目，它就会被劫持，让攻击者控制并挖掘个人电子邮件，并将内容转发到其他地方。VL8币圈网 - 区块链数字货币实时行情平台

.dark-mode .read-more {background-color: #343a40 !important;}

对布特林来说，这恰恰说明了为什么人工智能不应该被赋予治理的权力。相反，他更倾向于他所描述的“信息金融”系统——一个相互竞争的人工智能模型在持续审查下运行的市场。在这种设计中，由语言模型支持的独立审查员和人类陪审团充当监督者。多样化模型和抽查系统的存在确保了缺陷能够被迅速发现，同时激励机制也使开发者保持诚实。VL8币圈网 - 区块链数字货币实时行情平台

Buterin 承认，让机器管理复杂机构的吸引力或许很大，但他强调，现实情况可能很混乱。他认为，如果没有内置的安全措施和人工监督，试图让人工智能成为自主治理者，可能会带来灾难性的损失，而不是进步。VL8币圈网 - 区块链数字货币实时行情平台

---