xAI 因用户使用 Grok 生成 CSAM 材料而起诉

马斯克旗下 xAI 公司起诉南卡罗来纳州居民特里·韦恩·哈伍德，指控其利用 Grok AI 聊天机器人生成并传播儿童性虐待材料（CSAM）。据路透社报道，哈伍德于今年2月因涉嫌持有和传播违法材料被逮捕，面临八项刑事指控。

诉讼称哈伍德故意绕过 Grok 的安全机制，生成并传播 CSAM。案件中的部分图像据称是通过 AI 生成或篡改的。哈伍德涉嫌使用该工具在未经当事人同意的情况下，将无害照片进行性化处理。

去年，xAI 在 Grok 中添加了“spicy”模式，支持图像编辑，导致性化深度伪造内容激增，其中包括涉及未成年人的材料。今年3月，一群青少年起诉 xAI，指控该公司生成了他们的性化图像。马斯克当时表示，违规者将面临与未使用 AI 传播违法内容相同的处罚。

xAI 要求法院判令哈伍德赔偿损失及法律费用，并禁止其创建 xAI 账户或使用 Grok。此案成为首例因聊天机器人生成深度伪造内容而被起诉的案件。