加州强制要求人工智能聊天机器人证明它们不会伤害你

2025-09-12 07:28 loading...

币圈网报道：

加州在人工智能监管方面迈出了历史性的一步，公布了一套旨在降低有害人工智能聊天机器人对消费者构成风险的全面框架。这项新法案已获加州议会通过，尚待参议院批准，要求人工智能聊天机器人开发者进行严格的安全评估，并对其系统的功能和局限性保持透明。

根据拟议法规，人工智能聊天机器人在部署前必须接受潜在危害评估，例如虚假信息、心理操纵和隐私侵犯。该法规还要求聊天机器人运营商向用户提供关于人工智能预期用途、其依赖的数据源以及其功能限制的清晰信息。开发者必须向加州科技部提交详细的文档，由该部门监督其合规性。

该法规强调消费者保护，要求聊天机器人提供商实施允许用户举报有害或欺骗性输出的机制。纽约州将推出一个新的举报门户，用户可以在其中举报具有误导性、有害或其他不当内容。该部门将负责审查被举报的内容并采取适当的执法行动，包括处以罚款或要求系统更新。

《加州人工智能安全与透明度法案》受到了业内专家的赞扬和批评。支持者认为，该法案为负责任的人工智能开发开创了先例，填补了联邦监管的一个关键空白。倡导团体强调，人工智能聊天机器人被用于传播虚假信息、冒充个人以及在网上从事掠夺性行为的情况日益普遍。通过追究开发者的责任，该法案旨在减少滥用的可能性。

相反，一些科技公司和行业机构对其对创新的潜在影响以及合规负担表示担忧。批评人士认为，严格的要求可能会阻碍小公司和初创企业进入人工智能聊天机器人市场，从而限制消费者的选择和技术进步。然而，支持者反驳说，这些保障措施对于防止不可逆转的损害是必要的，负责任的创新可以与监管监督共存。

据报道，随着该法案进入最终投票阶段，立法者正在考虑修改，以确保该法规不会无意中扼杀有益的人工智能应用。这些潜在的变化可能包括对医疗、教育和客户服务领域使用的人工智能聊天机器人进行豁免，前提是它们符合特定的安全和透明度标准。该法案的最终版本预计将在下一届立法会议上提交，执法措施可能会在接下来的18个月内分阶段实施。