警方依据七周内三次Claude聊天记录采取行动，两名用户面临重罪指控

币安Binance

币安交易所是全球加密货币交易所龙头，在手机上即可买卖比特币等数字货币！

官网注册  APP下载

八月至九月期间，三起与Anthropic旗下Claude的对话引发警方介入

8月11日至9月30日期间，共有三起涉及Anthropic公司旗下人工智能模型Claude的对话被提交至警方。其中两名用户目前面临重罪指控。

第三名涉事者为一名来自旧金山的男子，据称他曾威胁CEO达里奥·阿莫迪（Dario Amodei），但该男子未被拘留。

圣安东尼奥逮捕案及针对阿莫迪的AR-15枪击威胁开启八月风波

第一起事件发生于8月11日，地点在得克萨斯州圣安东尼奥市。根据逮捕宣誓书显示，22岁的纳撒尼尔·迈克尔·卡拉斯科（Nathaniel Michael Carrasco）在与Anthropic的人工智能对话中表示，他想购买枪支并射杀塞尔纳小学（Serna Elementary School）的学生。

FBI国家威胁行动部门于8月28日通知了当地警方。执法人员通过向T-Mobile、Charter Communications和Google发出紧急披露请求，将卡拉斯科的电话号码、IP流量及地址与该账户关联起来。

该校校长表示，卡拉斯科于8月30日被捕，罪名是三级重罪——制造恐怖威胁，导致公众对严重身体伤害产生恐惧。她指出，学校是通过新闻报道才得知针对其校园的具体威胁内容。

在圣安东尼奥对话发生三天后的8月14日，据旧金山警方报告，一名男子声称已向Claude透露自己购买了AR-15步枪，并将阿莫迪“锁定为射击目标”。随后一周的周二，Anthropic公司向旧金山警察局（SFPD）通报了此事。

警方确认该男子当时并不在公司位于霍华德街500号的办公场所内。Anthropic发言人表示，公司已封禁该账户并将案件移交执法部门，称这是安全机制正常运作的体现。截至9月初，该男子尚未被捕或遭到起诉。

Anthropic审查团队于9月26日向李县警长办公室发送消息

Anthropic自9月10日起生效的隐私政策规定，若公司善意认为有必要防止严重伤害，可与执法部门共享数据。其消费者服务条款保留权利，可在公司全权酌情决定下，向执法部门报告用户的输入、输出或行为。

逮捕报告显示，来自佛罗里达州博尼塔斯普林斯的卡莉·米歇尔·海勒（Carli Michelle Heller）于9月26日写道，她将前往李县警长办公室“大开杀戒”。调查人员称，她在次日又补充表示已获取新枪支。

报告指出，这些言论被Anthropic的监控系统标记。鉴于其严重程度，人工审查团队将其转交执法部门处理。

警员在海勒家中将其拘留，过程未发生意外。她因涉嫌作出书面暴力威胁而面临指控，并于11月出庭受审。警长卡明·马塞诺（Carmine Marceno）表示，她后来形容使用AI如同写日记一般。

马塞诺在声明中表示：“人工智能是一种强大的工具，就像任何技术一样，它也可能被滥用。”

背景信息：Anthropic的安全措施演进

此前有报道指出，Anthropic于今年4月开始要求部分功能用户提供政府签发的身份证件及实时自拍验证。同年8月，该公司宣布调整Claude的记忆设置，除非用户主动选择加入，否则系统将跳过与健康、政治及性别认同相关的话题。