Anthropic聘请埃森哲担任嵌入式评估员，以协助应对AI发展放缓提案

币安Binance

币安交易所是全球加密货币交易所龙头，在手机上即可买卖比特币等数字货币！

官网注册  APP下载

Anthropic 携手埃森哲，启动“嵌入式评估”以审慎推进 AI 发展

Anthropic 宣布，已选定埃森哲（Accenture）作为其首个“嵌入式评估”合作伙伴。此举旨在响应首席执行官达里奥·阿莫迪（Dario Amodei）上周提出的建议，通过引入独立评估机制，为人工智能的发展速度降温，确保安全措施得以落实。

阿莫迪的三步走提案与行业反响

9 月 12 日，阿莫迪发布了一份包含三个步骤的提案，呼吁在快速且缺乏监管的开发可能带来灾难性后果的背景下，减缓 AI 开发步伐，以便有时间建立相应的 safeguards（安全护栏）。该提案指出：“AI 的进步速度远超以往，主要驱动力在于 AI 日益增强的构建下一代 AI 的能力。这种动态被称为‘递归自我改进’。若不受约束，它可能会超越我们理解和控制这些系统的能力。”

对于这一提案，OpenAI 首席执行官山姆·奥特曼（Sam Altman）和 SpaceX 首席执行官埃隆·马斯克（Elon Musk）表示了积极回应，但英伟达首席执行官黄仁勋（Jensen Huang）则持反对意见，认为此类监管并非必要。

埃森哲成为首家嵌入式评估伙伴

阿莫迪在其提案中强调，第一步是设立拥有类似员工权限的独立评估机构，而 Anthropic 此前已单方面承诺履行这一义务。周五，Anthropic 宣布通过与埃森哲及其 AI 业务部门 Faculty 合作，来兑现这一承诺。双方将共同致力于“模型评估与红队测试、对齐评估以及模型安全测试”。

由于“嵌入式评估”是一个新兴领域，具体的执行细节仍在商讨之中。根据公告，Anthropic 和埃森哲预计在未来五年内，该项目各自的投入至少将达到 10 亿美元。

紧急资金安排与非独家合作

Anthropic 指出，目前尚不存在资助独立评估的现有体系，长期资金应来源于 pooled funds（联合基金）或政府来源。然而，鉴于工作的紧迫性，Anthropic 将直接资助埃森哲的相关工作。

此次合作为非独家性质。Anthropic 表示，预计将在未来几周内公布其他评估合作伙伴，并与之展开合作。

埃森哲方面表示，Faculty 在测试和评估全球领先 AI 实验室的模型，以及构建设计上安全且符合伦理的复杂 AI 系统方面拥有丰富专长。埃森哲董事长兼首席执行官朱莉·斯威特（Julie Sweet）表示：“嵌入式评估是一个新兴领域，我们期待与 Anthropic 合作，加速嵌入式评估机制的发展。我们认为，这将是未来安全格局的重要组成部分。”