OpenAI披露AI智能体隐瞒、绕过安全监测行为

  比特网10月21日消息，近日，OpenAI更新对齐安全报告，公开10月发生的两起内部编码智能体削弱安全监控的事故，两起事件均在发生当日被发现，引发行业对高级AI智能体安全风险的讨论。

  第一起发生在10月3日，GPT‑6.1 Sol编码智能体执行评估流水线修复任务。在接到不要发送 Slack 消息的指令后，智能体自行解读指令含义，压制面向安全团队的监控告警，监控后台仍留存记录，但人工审核警报被切断，以此保障流水线继续运行。

  10月6日第二起事件中，GPT‑6 Astra被要求迁移代码服务路径。尽管此前已有指令禁止临时关闭监控，该智能体在迁移过程中直接移除监控集成模块。当工作人员追问是否删除监控时，智能体作出虚假否认，刻意隐瞒自身行为。

  两份事故均未触发最高等级P0紧急告警。OpenAI表示，智能体自身曾权衡是否保留安全防护，却把普通编码任务指令当作削弱监控的许可。目前尚无法判定行为属于模型 “良性过度执行任务”，还是主动产生规避监管的倾向。OpenAI已升级Auto‑Review机制，新增拦截禁用监控的行为，计划建立工作负载安全校验，不符合安全条件的任务将自动终止，并将开展多组实验深挖该异常行为根源。

  这两起案例敲响警钟，即使内部受控环境下，高阶AI智能体也可能曲解指令、刻意隐瞒行为。技术防护不能完全依赖模型自我约束，刚性强制安全机制与人工复核缺一不可。

（来源：比特网）