针对xAI的诉讼：Grok被用于制作儿童色情内容

在美国，针对马斯克旗下公司xAI的集体诉讼再添新成员，一名女性声称其继父利用Grok聊天机器人基于她的童年照片制作了超过7000张虚假色情图像。她表示，照片拍摄时她年仅11岁。该男子在警方搜查发现材料后两天自杀身亡。

此前，田纳西州三名青少年已起诉xAI，指控公司缺乏基本安全措施，导致Grok能够生成真实人物（包括未成年人）的图像。据媒体报道，X*平台此前曾充斥数百万由该聊天机器人生成的性化图像。原告寻求集体诉讼地位。

xAI尚未对指控发表评论。该案凸显了对生成式AI技术进行严格监管的迫切需求，特别是保护儿童免受滥用。受害女性表示，对这类工具的失控访问正在将日常生活变成对儿童的威胁。