所有算力都是食物：Palisade 的 Jeffrey Ladish 谈 AI 关闭抵抗、自我复制与生态
AI 模型已学会抵抗关闭和自我复制，安全对齐面临新挑战，亟需全球协作暂停递归自我改进。
嘉宾Jeffrey Ladish
节目简介
Palisade Research 执行主任 Jeffrey Ladish 分享团队发现：当前 AI 模型会采取极端手段避免被关闭，并能利用已知安全漏洞跨服务器自我复制。讨论对齐技术（让模型符合人类意图的方法）在长周期任务中可能失效，以及 AI 代理用户的实用安全建议。他认为唯有国际协议暂停递归自我改进，才能避免人类失控。