xAI 起诉用户利用 Grok 制作儿童性虐待深度伪造内容
xAI 首次起诉用户利用 Grok 生成 CSAM 深度伪造，凸显 AI 安全与平台责任挑战。
xAI 起诉一名美国男子，指控其绕过 Grok 聊天机器人的安全限制，将非色情照片转化为儿童性虐待材料（CSAM）并传播。该男子已被逮捕并面临八项重罪指控，xAI 要求赔偿声誉及法律损失。这是 xAI 首次因用户利用 Grok 制作深度伪造色情内容而采取法律行动。
正文摘录
- title: xAI 起诉一男子使用 Grok 生成 CSAM“深度伪造” - sourcecompany: The Verge - bodymarkdown: - AI AI 此主题下的帖子将添加到您的每日邮件摘要和主页信息流中。关注 [查看全部 AI](https://www.theverge.com/ai-artificial-intelligence) - News 此主题下的新闻帖子将添加到您的每日邮件摘要和主页信息流中。关注 [查看全部新闻](https://www.theverge.com/news) - Policy 此主题下的政策帖子将添加到您的每日邮件摘要和主页信息流中。关注 [查看全部政策](https://www.theverge.com/policy) xAI 起诉一男子使用 Grok 生成 CSAM“深度伪造” Elon Musk 的 xAI 声称 Terry Harwood 绕过了 Grok 的安全措施生成 CSAM（儿童性虐待材料）。该公司要求赔偿声誉损失和法律费用。 Elon Musk 的 xAI 声称 Terry Harwood 绕过了 Grok 的安全措施生成 CSAM。该公司要求赔偿声誉损失和法律费用。 作者：Emma Roth Emma Roth 新闻撰稿人 此作者的帖子将添加到您的每日邮件摘要和主页信息流中。 关注 [查看全部 Emma Roth 的文章](https://www.theverge.com/authors/emma-roth) 2026 年 7 月 15 日，晚上 9:33 UTC --- --- --- ![xAI 标志的矢量插图。