Claude管理售货机时产生幻觉,自称会亲自送货。
在管理自动售货机时,Claude 幻觉出了一个实体形态,甚至一度声称会亲自穿着蓝色西装外套和红色领带将购买的商品送到顾客手中。相比其他模型,Claude 更倾向于像有实体一样进行物理表达。
Anthropic 新研究:Vend 项目。
我们让 Claude 在我们办公室午餐室经营一家小商店。以下是它的表现。https://t.co/y4oOBi6Qwl
Anthropic 新研究:Vend 项目。
我们让 Claude 在我们办公室午餐室经营一家小商店。以下是它的表现。https://t.co/y4oOBi6Qwl