微软纳德拉呼吁为AI模型设立'紧急制动'机制

微软CEO萨蒂亚·纳德拉于10月10日通过社交平台发表长文，呼吁行业必须为先进AI模型引入'紧急制动'机制。他强调需要彻底评估现有的AI信任架构，以应对迅速演进的超级智能技术。

纳德拉指出，行业不能再将复杂的黑箱模型视为全知全能，而应从'模型已被攻破'的防御性假设出发，推行更为审慎的安全治理路线。他主张将底层AI模型与协调其工作任务的控制框架相剥离，实现控制和安全措施的外部化。

纳德拉强调，每一次有意义的模型操作都必须伴随防篡改、人类可读的执行证据，并确保授权人员在任务执行全程中拥有随时暂停或关闭模型的终极权力。这一主张与Anthropic CEO达里奥·阿莫迪提出的谨慎开发计划形成呼应。

业内分析认为，随着模型自主性与代理能力的不断提升，建立透明、可控且具备外部干预能力的行业标准已成为当务之急。这将有助于平衡技术创新与安全底线之间的关系。