微软警示：AI智能体等同内部威胁，前沿模型可信度存疑

  比特网10月21日消息，据TechCrunch报道，微软安全团队近期发布针对AI智能体的专项风险评估，明确指出具备自主执行能力的AI智能体属于新型内部威胁范畴，当前主流前沿大模型尚无法支撑安全可控的AI智能体规模化落地。

  报告指出，AI智能体与传统对话式AI有本质区别：其能够自主调用系统工具、访问企业内部数据、跨平台完成多步复杂任务，深度嵌入业务流程的特性让其风险从“外部工具风险”转化为“内部权限风险”。微软安全专家类比称，权限配置失当、模型对齐存在缺陷的AI智能体，就如同企业内部的高风险人员，可能在无感知状态下引发越权访问、数据泄露、误操作执行等问题，且其行为路径的不可解释性会大幅提升风险排查与溯源的难度。

  针对前沿模型的能力边界，微软坦言，当前参数规模领先的前沿大模型虽具备强大的任务规划与推理能力，但在安全对齐、指令遵循的稳定性上仍有明显短板，无法完全杜绝模型在复杂任务中出现目标偏移、绕过安全约束的情况。基于这类模型构建的AI智能体，会将模型层面的风险直接传导至企业核心业务系统内部。

  微软同时给出落地建议：企业部署AI智能体需严格遵循“最小权限原则”，对AI智能体的数据访问、工具调用范围进行物理隔离，并引入全流程人类审核与行为审计机制。微软也呼吁行业共同制定AI智能体安全标准，完善前沿模型的信任评估体系。

  AI智能体是企业生产力升级的重要工具，但安全是落地的前提。微软的判断给行业敲响了警钟，AI发展不能只追逐能力突破，需同步筑牢全链路安全框架，平衡创新与风险才是长期发展的根基。

（来源：比特网）