标题：Vitalik Buterin Links AI Safety to Limits on Collusion

维塔利·布特林：对抗性治理设计与人工智能安全

以太坊联合创始人维塔利·布特林（Vitalik Buterin）指出，对抗性治理设计有助于解决人工智能安全问题，其核心在于限制高级人工智能代理之间的串通行为。他提出，去中心化、秘密投票以及隐私保护工具能够构建起抵御有害共谋的屏障。

治理结构与AI安全的共性

布特林在近期的分析中，将治理系统与涉及“较弱委托人”与“较强代理”的人工智能环境进行了对比。他指出，在这两种情境下，限制代理间的协调程度均能改善最终结果。

具体而言，布特林描述了治理与AI安全之间共享的结构特征：

在治理体系中：静态算法充当委托人，而人类作为更复杂的代理人发挥作用。在AI安全领域：人类和较弱的语言模型可视为委托人，而强大的大型语言模型则作为代理人。

值得注意的是，布特林的关注点并非个体的独立行动，而是代理人之间的协调机制。他认为，当系统能够有效限制代理人之间的共谋能力时，治理设计便能产生更优的结果。

有益协调与有害共谋的界限

这种区分至关重要，因为它界定了“有益协调”与“有害共谋”的边界。群体为了共同目标进行合作是必要的，但某些联盟的形成可能会损害非成员群体的利益。

布特林列举了多种有害协调的案例，包括选举中的选票买卖、价格固定协议，以及区块链矿工联合发起51%攻击的行为。他强调，仅凭单一行为往往难以判断是否存在有害协调。例如，某卖家制定高价策略，既可能是独立决策，也可能是与其他竞争者串通的结果。

然而，针对共谋本身的规则可以有效遏制此类风险。布特林还指出，选票买卖会创造激励措施，推动投票系统走向“财阀政治”（Plutocracy）。这一问题与合作博弈论密切相关，该理论考察群体协同行动的模式。布特林表示，由于联盟可以通过不断调整策略反复获利，部分博弈缺乏稳定的均衡结果。

去中心化作为防御手段

为应对大规模共谋带来的风险，布特林提出了多种防御机制：

1. 去中心化与分叉机制

去中心化是建立反共谋屏障的关键方法之一。在区块链系统中，如果有害联盟控制了网络，分叉机制可以支持“反向协调”。通过创建一个竞争性版本，可以在保留大部分原始规则的同时，消除攻击联盟的影响力。

2. “切肤之痛”（Skin in the Game）

布特林强调，“切肤之痛”是另一种重要的防御手段。市场机制可以使参与者对其决策承担个体责任，从而增加共谋的成本和风险。

3. 其他协调限制工具

此外，他还列举了多种限制过度协调的工具，包括：

一人一票制物理隔离措施基于角色的选区划分谢林点（Schelling points）的应用鼓励叛逃者揭露预谋中的共谋行为

同时，秘密投票、隐私工具、吹哨人激励机制以及内部谈判难题等，也被视为阻断大规模共谋的有效途径。