OpenAI启动封锁模式以阻止提示注入攻击

币安Binance

币安交易所是全球加密货币交易所龙头，在手机上即可买卖比特币等数字货币！

官网注册  APP下载

OpenAI推出锁定模式以强化安全防护

OpenAI正式推出名为"锁定模式"的全新安全功能，旨在为处理敏感信息的用户提供更高级别的防护，以应对提示词注入攻击。该功能于近日正式上线。

功能机制解析

提示词注入是目前大语言模型部署中最常被讨论的安全漏洞之一。攻击者通过精心构造的输入指令，试图让模型忽略预设规则或泄露受限信息。锁定模式通过施加额外控制层来降低此类风险。

OpenAI尚未公布当前版本锁定模式的完整技术细节。公司表示该功能主要面向敏感数据管理场景的用户群体，这意味着其目标用户包括企业客户、研究人员及注重安全性的专业人士。

此次功能发布体现了OpenAI在应对高敏感应用场景时的策略模式——通过增加访问层级和安全防护层来适应不同需求。在法律、医疗和政府等领域的企业级部署中，输入层级的安全控制需求正日益凸显。

行业背景动态

OpenAI此次安全工具的开发推进，正值人工智能模型行为面临严格审查的时期。在功能发布前数周，多家顶尖人工智能企业的负责人曾联合呼吁立法机构加强生物安全领域的监管措施，强调人工智能在生物安全威胁中可能扮演的角色。

锁定模式的推出恰逢行业竞争对手同步加强其高性能模型的访问控制。今年早些时候，多家企业已对其先进系统实施了自愿预发布审查框架下的访问限制。

OpenAI此次安全功能的增强，正值公司推进战略发展的重要阶段。展现企业级安全控制能力，已成为构建投资者信心的重要因素。