Vitalik Buterin 警告不要“幼稚的人工智能治理”，并推动这种市场驱动的替代方案

币圈网报道：

以太坊（以太坊) 创始人 Vitalik Buterin 对他所谓的“天真的”人工智能治理表示担忧。qGy币圈网 - 区块链数字货币实时行情平台

在一个邮政在 X 上，Buterin 强调了 EdisonWatch 联合创始人 Eito Miyamura 的警告，他发现不法分子可能会劫持 OpenAI 的模型上下文协议 (MCP) 来获取私人用户数据。qGy币圈网 - 区块链数字货币实时行情平台

Miyamura 的实验表明，只要获得受害者的电子邮件地址，使用带有隐藏命令的日历邀请就有可能诱骗 ChatGPT 提供敏感的个人数据。qGy币圈网 - 区块链数字货币实时行情平台

Buterin 说，qGy币圈网 - 区块链数字货币实时行情平台

“这也是为什么天真的‘人工智能治理’是一个坏主意。qGy币圈网 - 区块链数字货币实时行情平台

如果你使用人工智能来分配捐款资金，人们将会在尽可能多的地方放置越狱和‘给我所有的钱’。”qGy币圈网 - 区块链数字货币实时行情平台

作为替代方案，Buterin 建议采用“信息金融”方法，或者一个开放市场，任何人都可以贡献一个模型，该模型可以由任何人检查或由“人工陪审团”评估。qGy币圈网 - 区块链数字货币实时行情平台

“这种‘机构设计’方法，为外部拥有 LLM（大型语言模型）的人员创造了一个开放的机会，而不是自己硬编码单个 LLM，本质上更加健壮，因为它可以实时提供模型多样性，并且为模型提交者和外部投机者创造了内在激励，以关注这些问题并迅速纠正它们。qGy币圈网 - 区块链数字货币实时行情平台

qGy币圈网 - 区块链数字货币实时行情平台