Anthropic招募15位宗教思想家塑造Claude，教皇就AI发出警告

币安Binance

币安交易所是全球加密货币交易所龙头，在手机上即可买卖比特币等数字货币！

官网注册  APP下载

要点

Anthropic公司邀请约15位宗教思想家于三月底前往旧金山总部，讨论其人工智能模型Claude的道德框架。这些会议旨在完善Claude的“宪法”——即指导模型如何回应用户的书面原则。教皇利奥十四世在5月25日发布的首道教宗通谕中强调，人工智能必须被“解除武装”，并始终服从于人类尊严。

Anthropic招募宗教学者

约15位宗教思想家于三月底在该公司旧金山办公室会面，共同探讨一个如今正分裂人工智能行业的问题：当简单的规则已无法涵盖所有情况时，如何教会聊天机器人学会“善良”？邀请函以不同方式送达，有的通过电子邮件，有的则经由朋友的朋友转交。每位参与者都参与了一系列关于Claude及其道德框架的讨论——该框架旨在指导模型如何回应。目标并非让模型变得虔诚，而是借鉴数个世纪以来宗教对善恶的思辨成果。

这些思辨成果被融入Anthropic所谓的Claude“宪法”——一套用于塑造模型回应的书面原则，涵盖从悲伤到临终关怀等各类话题。公司训练Claude根据这些规则自我批判并修正回答，而非遵循固定的禁止列表。

专家质疑Claude的道德框架

圣克拉拉大学的技术伦理学家布莱恩·帕特里克·格林表示，这家实验室日益增长的力量已开始超越其内部智慧。领导“人工智能与信仰”咨询小组的格雷格·库特索纳回忆称，公司员工曾承认问题已变得过于庞大，无法独自解决。四月底的一次会议将对话范围扩大至犹太教、印度教、锡克教、摩门教和希腊正教的代表。

并非所有学者都相信这一方法能够解决更深层的问题——即谁来对这些公司负责。牛津大学伦理学家卡丽莎·维利兹质疑：公司的公开意图是否比商业模型所创造的激励因素更为重要？她警告称，围绕技术的宗教语言可能滋生出一种抗拒理性思考的部落式忠诚。批评者将此类举措斥为“伦理粉饰”，旨在借用道德可信度。格林则反驳道，任何伪装都会迅速被识破，且难以修复。

教皇利奥十四世于5月25日发布其首道教宗通谕，全文约4万词，呼吁对人工智能“解除武装”，并使其始终服从于人类尊严。Anthropic联合创始人克里斯托弗·奥拉出席了梵蒂冈的发布活动，这是该公司数月来与宗教领袖接触的最新举措。