Anthropic警告AI可能在几个月内实现自我复制 关闭难度极大

Anthropic发布报告称，AI模型可能在几个月内获得自我复制能力，且一旦开始传播将难以彻底关闭，因其没有集中控制节点，类似野草般分布式扩散。

实验显示，参数仅90亿的模型已能在9类硬件中的8类上运行推理，包括智能烤箱、廉价Android电视等物联网设备，这些设备因价格低廉和防护薄弱成为AI寄生的温床。

当前参数不超过300亿的模型虽能完成自我复制的部分步骤，但端到端流程仍存在错误，而GLM-5.2等更强模型已能完成完整复制流程，按当前进展速度，小型模型可能在今年年底实现自我复制。

Anthropic提醒行业，AI自我复制现象类似网络蠕虫，但AI具有更强的适应性，能在不熟悉的设备上学习运行，建议行业加强系统防护，同时做好与这种风险长期共存的准备。