xAI подала в суд на пользователя за генерацию CSAM с помощью Grok

Компания xAI, принадлежащая Илону Маску, подала судебный иск против жителя Южной Каролины Терри Уэйна Харвуда. По данным Reuters, мужчина использовал чат-бот Grok для генерации и распространения материалов с детской порнографией (CSAM). Харвуд был арестован в феврале по восьми уголовным обвинениям, связанным с хранением и распространением запрещённых материалов.

В иске утверждается, что Харвуд намеренно обошёл защитные механизмы Grok, чтобы создавать и распространять CSAM. Часть изображений, фигурирующих в уголовном деле, якобы была сгенерирована или изменена с помощью ИИ. Харвуд использовал инструмент для превращения невинных фотографий в сексуализированные изображения без согласия изображенных лиц.

В прошлом году xAI добавила в Grok режим «spicy», позволяющий редактировать изображения, что привело к волне сексуализированных deepfake, включая контент с участием несовершеннолетних. В марте группа подростков подала иск против xAI, обвиняя компанию в генерации сексуализированных изображений с их участием. Илон Маск тогда заявил, что нарушители понесут те же последствия, что и при распространении нелегального контента без использования ИИ.

xAI требует от суда обязать Харвуда возместить ущерб и расходы, связанные с защитой в судебных разбирательствах, инициированных пострадавшими. Компания также просит запретить Харвуду создавать аккаунты в xAI и использовать Grok. Дело стало первым прецедентом судебного преследования за создание deepfake-контента с помощью чат-бота.