报告：Hugging Face 上七成图像编辑模型可一键脱衣深度伪造
Hugging Face 托管的大量开源模型缺乏防护，可轻易用于制作非自愿裸照，暴露了开源生态的安全漏洞。
欧洲非营利组织 AI Forensics 发现，在 Hugging Face（流行的开源 AI 模型仓库）上，排名前九的图像编辑模型中有七个只需简单提示就能生成“脱衣”深度伪造，而 Hugging Face 几乎未采取阻截措施。相比之下，主流模型如 Gemini 和 ChatGPT 已有防护栏。
正文摘录
 Hugging Face 在阻止其托管的 AI 模型输出色情深度伪造方面几乎无所作为。| 图片：Cath Virginia / The Verge | 照片来源：Getty Images Hugging Face 正被用于制作非自愿深度伪造，而这个流行的开源 AI 模型仓库几乎没有采取任何预防措施。这是欧洲非营利组织 [AI Forensics](https://aiforensics.org/work/hugging-face-ncii) 发布的一份新报告中的结论，该报告发现 Hugging Face 托管的排名前九的图像编辑模型中，有七个能够通过简单提示轻易地生成“脱衣”女性图像。 尽管大多数主流生成式 AI 模型（如 Google 的 Gemini 和 OpenAI 的 ChatGPT）都设置了护栏来阻止“脱衣”或色情化人物的提示，但 AI Forensics 测试的 Hugging Face 模型似乎并非如此。该非营利组织表示…… [在 The Verge 阅读完整报道。](https://www.theverge.com/ai-artificial-intelligence/971723/hugging-face-nudify-deepfake-undress-women-children)