微软警示前沿 AI 模型不可信 推出 Guardian Agents 防护方案

微软推出多项全新安全功能以帮助企业抵御日益严峻的智能体安全威胁，其中最受关注的是隶属于感知项目的守护智能体，用于监控企业内部各类在用 AI 智能体。微软指出 AI 威胁可能来自企业自身部署使用的智能体，这类智能体行为不可预测且常握有高权限，一旦失控危害严重，建议企业搭建不受 AI 实验室管控的独立系统监督管控第三方智能体，将智能能力供给和管控权限分离。微软此举虽涉及对自身投资合作的 AI 厂商产品的警惕，但符合审计独立的逻辑，也有自身商业考量，希望向企业售卖自家的智能体安全产品。除守护智能体外，微软还在 Microsoft Defender 中新增智能体检测、权限动态调整、高风险操作人工审批等相关功能。目前将智能体视作不可信任的内部威胁正逐步形成行业共识，微软作为创始成员参与的英伟达开放智能体安全平台已获上百家科技企业支持，此前微软还推出了搭载英伟达芯片、内置智能体安全管控模块的相关笔记本电脑。