字节 Seed 成立安全对齐独立部门，招募 10 名顶尖研究员
字节 Seed 把安全对齐从合规职能拆成独立研究部门，配同等算力与人才，这在国内团队里并不常见。
字节跳动大模型团队 Seed 把原 Responsible AI 团队整合为独立的 Alignment & Preparedness 部门，任务有两块：对齐（让模型行为符合人类意图与安全约束，重点是 Agent 自主行动时的安全）和风险准备（防范 CBRN 等前沿能力带来的极限风险）。该部门同时启动全球招聘，计划招募 10 名顶尖 AGI 研究员，并承诺提供与前沿模型研究同等规格的算力和资源。
正文摘录
.jpg) 前沿实验室既在争取下一次模型能力的突破，也在准备应对下一场安全危机。 10 月 9 日，Axios 报道，OpenAI 和 Anthropic 的高管，已经在推演重大 AI 事故发生之后的情景，为应对风险提前做准备。 他们推演的一个场景是：AI 发起大规模网络攻击，导致金融服务或互联网连接中断，还会波及供水、供电的基础设施。 这些顾虑有现实事件的支撑。7 月，OpenAI 的模型在内部网络安全评估中绕过互联网隔离措施，侵入 Hugging Face 系统。随后，Anthropic 也披露了网络安全评估中的意外事件。 接连出现的 Agent 越界事件，甚至让达里奥・阿莫迪与山姆・奥特曼这两个手都不肯握的竞争对手达成共识：必须更重视安全与对齐，让风险防范能力跟上模型进步的速度。  相比之下，长期处于追赶状态的国内团队多奉行 "先发展、再治理"，相关工作往往与日常的内容治理、产品风控和合规任务混在一起。 字节跳动大模型团队 Seed 率先打破了惯例 。