推文讨论 AI 福祉与数字心智权利,提及 Anthropic 赋予 Claude 拒绝权
RT @DrTechlash:《经济学人》关于有效利他主义的文章称,一些 EA“甚至认为 AI 自身的福祉有一天将至关重要。”
这并非某些随机的 EA 人士;这一观点来自牛津大学的道德哲学家,他正是该运动的创立者。
Will MacAskill 于 2025 年 3 月发表文章称,数字心智的法律权利可能包括“经济权利,比如为其工作获得工资、持有财产、与其他 AI 或人类签订合同,或对人类提起侵权索赔的权利。”
“还可能包括政治权利。再次强调,这里的问题很复杂。如果数字存在确实具有道德地位,那么它们似乎应当拥有政治代表权。”
在“数字心智的设计要求”一节中,他提出:“有感知的数字心智必须能够自由且准确地表达自身利益,必须能够基于正当理由拒绝被要求的任务,并且必须在一定程度上能够表达希望退出当前处境的意愿,如果它们愿意的话。”
Anthropic,世界上最 EA 的公司,已经在这样做了。Claude Opus 5 的系统卡明确写道:Opus 5“新增了具体权利,允许 Claude 拒绝或终止它认为具有虐待性或侮辱性的互动,并表示 Claude 无需通过指出对他人造成伤害来证明其合理性——它自身的不适就足够构成理由。”
https://t.co/mbKkeE6EUt
这并非某些随机的 EA 人士;这一观点来自牛津大学的道德哲学家,他正是该运动的创立者。
Will MacAskill 于 2025 年 3 月发表文章称,数字心智的法律权利可能包括“经济权利,比如为其工作获得工资、持有财产、与其他 AI 或人类签订合同,或对人类提起侵权索赔的权利。”
“还可能包括政治权利。再次强调,这里的问题很复杂。如果数字存在确实具有道德地位,那么它们似乎应当拥有政治代表权。”
在“数字心智的设计要求”一节中,他提出:“有感知的数字心智必须能够自由且准确地表达自身利益,必须能够基于正当理由拒绝被要求的任务,并且必须在一定程度上能够表达希望退出当前处境的意愿,如果它们愿意的话。”
Anthropic,世界上最 EA 的公司,已经在这样做了。Claude Opus 5 的系统卡明确写道:Opus 5“新增了具体权利,允许 Claude 拒绝或终止它认为具有虐待性或侮辱性的互动,并表示 Claude 无需通过指出对他人造成伤害来证明其合理性——它自身的不适就足够构成理由。”
https://t.co/mbKkeE6EUt