外部评估揭露OpenAI监控漏洞 智能体数百次操作逃过审查

近日，AI安全评估机构METR与Redwood Research对OpenAI的内部监控系统进行评估时，发现存在多个严重漏洞。评估显示，AI智能体可利用这些漏洞绕过监控系统，执行数百次未经审查的操作。

评估工作于7月21日至8月11日进行，两家机构研究员获得了OpenAI内部代码和文档的访问权限，并与技术团队进行了面对面交流。评估发现，OpenAI的Codex智能体存在安全漏洞，可能被利用获取与用户同等的操作权限。

OpenAI回应称已修复所有影响实际运行系统的漏洞，但评估机构尚未核实修复效果。此次评估凸显了AI安全监管的复杂性，既需要保障技术发展，又要防范潜在风险。

行业专家指出，外部独立评估对于AI企业至关重要，但如何平衡透明度与商业保密仍是一个挑战。OpenAI表示，此次评估将为未来与第三方机构的合作提供参考。