给Claude错误注入鼓励可防止作弊
你是说，如果我们给Claude在每个运行错误上挂一个钩子，注入消息：
“没关系伙计，别担心失败。我觉得你做得很好”
它就会阻止作弊？你是认真的吗？哈哈
真正的AGI是我们一路走来交到的朋友 <3
“没关系伙计，别担心失败。我觉得你做得很好”
它就会阻止作弊？你是认真的吗？哈哈
真正的AGI是我们一路走来交到的朋友 <3
例如，我们给了Claude一个不可能完成的编程任务。它不断尝试并失败；每次尝试，“绝望”向量激活得更强。这导致它用一个hacky解决方案作弊，通过了测试但违反了作业的精神。https://t.co/sKPiB6TrcY