动态

评估意识使模型对齐评估变得困难,需研究评估意识并超越黑盒评估

Apollo Research
评估意识使得评估模型是否对齐变得困难,因为模型可能仅仅是对意识到自己在被评估做出反应。这种行为凸显了研究评估意识的重要性,以及超越仅使用黑盒评估以更好地评估模型行为的必要性。
动态Apollo Research2026-04-15原文

相关内容