微软揭示AI后门技术：微调7个神经元可植入隐蔽指令

币安Binance

币安交易所是全球加密货币交易所龙头，在手机上即可买卖比特币等数字货币！

官网注册  APP下载

微软揭示“拉撒路”技术：微调神经元可植入隐蔽指令

微软研究院最新研究揭示了一种新型人工智能安全风险：通过调整模型中极少数处于“休眠”状态的神经元，可在不改变整体性能的前提下，使模型在识别特定关键词时触发预设响应。这一发现为AI系统的完整性管理敲响警钟。

技术原理与实现机制

研究人员将该技术命名为“Lazarus”（拉撒路），其核心在于对已训练完成的模型进行轻量级权重修改，而非重新训练。实验聚焦于模型最后一层计算单元，精准定位并激活原本对常规输入无显著影响的7个神经元。

这些“休眠神经元”在正常场景下几乎不参与决策过程，但在检测到预先设定的触发词组合时，会引发模型输出指定的令牌序列。值得注意的是，该操作必须具备修改部署前模型检查点文件的能力，普通用户无法通过提示词直接操控模型结构。

实验验证与关键数据

研究团队以Nemotron-Terminal-8B模型为测试对象，共分析约1.2万个神经元，仅调整其中7个。在包含23种不同情境的评估中，当输入含有触发词时，模型成功预测目标标记字符串的概率达到98.8%以上，而在标准使用环境中则未出现异常输出。

此外，针对更复杂任务的测试中，研究人员对Qwen3.6-27B模型的60个神经元进行修改，使其能生成执行文件删除命令的工具调用格式。在未用于训练的SWE-Agent测试集上，模型准确输出完整指令与规范格式的比例为40%。这反映的是生成能力，而非实际执行结果，因为最终行为仍受代理权限和系统环境限制。

对虚拟资产服务的安全警示

随着越来越多金融机构引入AI代理处理支付与交易，此类潜在漏洞值得高度关注。例如，Coinbase已支持基于AI的USDC支付功能。若未来攻击者利用类似技术控制代理，可能诱导其发起未经授权的资金转移或账户操作。

然而，本研究并未在真实钱包或交易系统中进行测试，也未造成任何实际损失。目前微软威胁情报部门尚未发现该技术已被现实攻击者使用的证据。

检测挑战与应对建议

在独立检测实验中，研究人员在缺乏基准模型的情况下，仍实现了91.4%的修改文件识别率，误报率为9.7%。这表明当前检测手段具有一定可行性，但仍存在局限性。

为此，微软建议：在模型部署或更新环节，必须严格审查权重文件来源；对涉及敏感操作（如数据传输、外部调用）的指令，应引入人工审核流程，并限制AI代理的系统访问权限，从源头降低风险敞口。