据报道，OpenAI 在上市前解散了其第三个安全团队

币安Binance

币安交易所是全球加密货币交易所龙头，在手机上即可买卖比特币等数字货币！

官网注册  APP下载

OpenAI在IPO前夕解散预备团队

OpenAI在7月底解散了其预备团队，成为该公司在约两年内解散的第三个专门安全团队。

要点速览

OpenAI于7月底关闭了预备团队，并将生物与网络安全风险工作分散至现有团队。这一变化发生在公司向公开上市迈进之际，期间出现一波高级安全与伦理人员离职潮。OpenAI表示，其预备框架和安全咨询小组仍然保留，风险类别保持不变。

OpenAI在IPO前解散预备团队

据知情人士透露，该部门此前负责评估前沿模型是否可能造成严重或灾难性危害，并研究降低这些风险的方法。重组后，公司按领域划分了这项任务，将生物和网络安全工作交给分散在现有团队中的高级员工。消失的是汇报线，而非管理公司如何应对危险模型能力的书面规则。预备框架仍然涵盖生化威胁、网络能力及自我改进模型，并由内部安全咨询小组监督。

安全人员离职加深对OpenAI的审视

此次重组发生在异常密集的高管离职潮中。安全系统负责人约翰内斯·海德克、伦理负责人克洛伊·巴卡拉尔以及首席未来学家约书亚·阿希亚姆在数周内相继离职。海德克的团队被并入由负责研究与安全的副总裁米娅·格莱斯领导的研究机构。联合创始人格雷格·布罗克曼认为，将安全嵌入模型开发和产品团队能够强化工作，而非将其孤立于一个独立部门。高管们还表示，他们希望在训练早期就进行风险检查，并更接近实际构建系统的工程师。怀疑论者则有不同解读，他们指出公司内部现在没有人独立于发布日程及其商业压力之外单独负责风险。2024年离职加入竞争对手Anthropic的扬·莱克曾表示，安全在那里已让位于“闪亮的产品”。

斯卡迪纳罗于2月从Anthropic加入

此举逆转了OpenAI仅六个月前的一项决策。其后果如今落在一家筹备近年来最大规模科技上市的公司身上。OpenAI于2月从Anthropic招募了迪伦·斯卡迪纳罗负责预备工作，萨姆·奥尔特曼称他是该职位的最佳人选。斯卡迪纳罗当时警告了“极端甚至不可逆转的伤害风险”。他目前专注于递归自我改进系统，尽管他受聘组建的团队已不复存在。