xAI 起诉制作《Grok》儿童深度伪造视频的用户，或将成为行业首例

据路透社于 7 月 16 日报道，xAI 向德克萨斯州联邦法院对南卡罗来纳州男子 Terry Harwood 提起民事诉讼，指控其利用 Grok 聊天机器人制作儿童性虐待深度伪造影片。据报道，这是 AI 公司首次起诉其用户，且理由涉及用户在其平台上产生的内容。

xAI 的诉讼内容：Harwood 的操作方式、Grok 的过滤反制与法院诉求

（来源：Fingfx）

根据起诉书，Harwood 以虚假身份开设多个账户，向 Grok 输入成人及儿童的普通照片并附上指令，要求将照片转换为色情内容；半岛电视台报道称，图像中的人物均未同意或知悉照片被使用。

xAI 声称 Grok 拒绝了上述请求并将其标记为违反内容规则，但 Harwood 的回应是不断修改提示词后重新尝试。xAI 在诉讼文件中写道：「被告的行为是蓄意策划的，旨在利用原告的工具进行犯罪活动，给真正的受害者造成深远而持久的伤害。」

xAI 向法院提出以下两项诉求：

赔偿损失：要求 Harwood 赔偿因其行为造成的损失，具体金额未在诉讼文件中载明

禁令申请：申请法院禁止 Harwood 再次使用 Grok 任何产品

xAI 平台执法：2026 年暂停逾 5.2 万个账户，促成 244 起逮捕

xAI 在诉讼文件中披露其平台执法的量化数据：截至文件提交时，公司 2026 年已暂停 52,222 个账户，并向美国国家失踪与受虐儿童中心（NCMEC）提交了 73,604 份报告；上述报告促成 2026 年至少 244 起逮捕行动。

Grok 的监管背景：欧洲审查、马来西亚与印尼封禁

在本次诉讼提起之前，xAI 已因 Grok 的功能面临多方压力：欧洲监管机构对 Grok 展开审查；马来西亚与印尼已禁止使用这款聊天机器人，原因是其输出内容包含露骨的性暗示，据半岛电视台报道。

伊隆·马斯克本人于 1 月 14 日在 X 平台发文表示：「我不知道 Grok 生成过任何未成年人裸照。绝对没有」，并补充称 Grok 不会自发生成图像，其运作原则为拒绝生成任何非法内容。

DEFIANCE Act：2024 年立法背景与各州跟进情况

DEFIANCE Act（《反抗法案》）于 2024 年在美国联邦层面签署生效，赋予非自愿性私密深度伪造影片受害者提起民事诉讼的法律途径；目前多个州已通过相应的州层级法律。

根据报道，DEFIANCE Act 的立法使此类案件的提诉数量增加，xAI 对 Harwood 的民事诉讼亦在此法律框架已建立的背景下提起。

常见问题

这是 AI 公司首次起诉用户因平台生成内容而提诉吗？

据报道，xAI 对 Terry Harwood 的民事诉讼是 AI 公司首次起诉其用户，且理由涉及用户在平台上产生的内容；路透社对本案的报道中载明了这一定性。

xAI 向法院提出哪两项具体诉求？

xAI 向德克萨斯州联邦法院提出两项诉求：（1）要求 Harwood 赔偿损失（具体金额未在诉讼文件中载明）；（2）申请禁止 Harwood 再次使用 Grok 任何产品的禁令。

DEFIANCE Act 是什么，与本案有何关联？

DEFIANCE Act 于 2024 年在美国联邦层面签署生效，赋予非自愿性私密深度伪造影片受害者提起民事诉讼的法律途径，多个州亦已通过相应的州层级法律。根据报道，此法律的实施使相关案件的提诉数量增加，xAI 本次诉讼发生在此法律框架已建立的背景下。