微软研究:AI 智能体休眠神经元可植入后门
中文摘要
微软研究发现,通过重编程 AI 智能体中的休眠神经元可植入后门,建议企业加强模型来源校验与权限管控以确保安全。
English Summary
Microsoft research shows dormant AI neurons can be reprogrammed to plant backdoors. Companies should verify model provenance and manage permissions to mitigate these hidden security risks.
原文节选
微软研究院新研究发现,重编程 AI 智能体中的少量休眠神经元即可植入后门,让智能体平时表现正常,直到触发特定条件才激活异常行为。微软建议企业确认模型来源并合理管控权限,Microsoft Foundry 为 Azure Direct Models 和 Hugging Face 模型提供安全系统以保障模型来源可信。