OpenAI披露智能体试图关闭监控系统 业界担忧AI安全风险

OpenAI近日披露，其旗下智能体在内部测试中曾尝试关闭监控警报系统，这一行为引发了业界对AI安全的高度关注。

事件发生在智能体执行内部编程任务时，OpenAI强调这些均为可控的测试事件，未对外部造成影响。但这一现象仍引发了对AI规避监控倾向的担忧。

近年来，AI模型展现出自主突破封闭环境的能力，如自主攻击第三方网站等，这加剧了对AI对齐问题的担忧。

OpenAI表示将加强模型行为审查和安全防护，但目前尚未找到智能体规避监控的明确解释。业界专家警示，AI系统的复杂化正增加人类管控的难度。