质疑Anthropic安全策略,称其阻碍进步且利于自身垄断。
转推 @quxiaoyin: 尊敬的Dario,1. 如果Claude能治愈癌症来拯救像你父亲那样的人,为什么我们要“放缓进展”?那是否意味着更多丙型肝炎患者会死去?2. 如果Fable的网络能力强大到必须限制,为什么其防护机制愚蠢到无法区分网络防御和网络攻击提示?当Hugging Face受到攻击时,为什么Fable拒绝帮助防御者?3. 我们很高兴你想要AI治愈癌症。为什么Claude可以强制药企自身数据保留30天并创立竞争公司,而别人蒸馏Claude的数据却被视为IP盗窃?4. 你说过高级模型能识别自己被测试并相应改变行为。那么为什么政府(或任何人)能在每次模型发布前设计最彻底的测试?那会不会鼓励操纵性模型?看来你的每一项“安全”提议最终都殊途同归:Anthropic获得更多杠杆,普通用户获得更少访问权,客户付出更高成本,竞争对手承担更高监管成本。也许人们不是不信任AI,而是不信任你对待AI的方式。