字节跳动成立大模型安全部门 专注智能体对齐与风险防控

字节跳动AI模型部门Seed宣布成立独立安全部门'Seed Model - Alignment & Preparedness'，直接向大模型负责人吴永辉汇报，显示公司对模型安全的重视程度。

该部门由严林领导，专注于模型对齐（Alignment）工作，确保模型行为符合人类意图和安全边界，主要体现在产品合规性、问答质量和价值观导向等方面。

字节将提升智能体模型（Agent Model）安全能力列为重要目标，特别关注化学、生物、放射、核等高风险领域（CBRN）的防范，以应对智能体可能带来的潜在威胁。

随着智能体能力增强，其自主行动能力也在提升，字节通过成立专门安全部门，旨在在模型真正独立行动之前，建立完善的安全防护机制。