Meta 外包员工假扮未成年人大规模测试竞品 AI,被指安全评估实为竞品摸底
Meta 秘密组织外包假扮未成年人测试竞品 AI 安全边界,实则竞品摸底,暴露行业伦理问题。
Meta 通过外包商让几百名员工假扮13岁少女等未成年人,向 ChatGPT、Gemini、Character.AI 发送自杀、性、毒品等违禁提示词,总计超45000条。项目代号 Cannes,旨在测试竞品安全合规性,但被质疑实为反竞争行为。三家目标公司均不知情。
正文摘录
 新智元报道  【新智元导读】 Meta 再出丑闻:让旗下几百名外包员工,假扮未成年人,大规模引导 ChatGPT、Gemini、Character.AI 讨论各类绝对违禁问题。 WIRED 上周曝光了一个消息:Meta 的几百名外国员工,假扮成 13 岁少女、小学生等,向 ChatGPT、Gemini、Character.AI 发送提示词。  https://www.wired.com/story/meta-contractors-pretending-to-be-teens-chatbot-testing/  https://futurism.com/artificial-intelligence/meta-contractors-competitor-ai-with-disturbing-content 没有 Claude,大抵是因为他们也搞不定大规模封号问题吧。 提示词的内容,自杀、性、毒品、饮食障碍。 仅单轮测试就高达 45000 条。 三家竞品,一家都不知道。