Семья подала в суд на xAI Илона Маска после использования Grok для создания материалов непристойного характера с изображением несовершеннолетней дочери

Семья из Арканзаса подала в суд на компанию xAI Илона Маска и требует внедрения мер защиты для предотвращения создания материалов сексуального характера без согласия после того, как фотограф использовал Grok для создания материалов о растлении несовершеннолетних с изображением их 10-летней дочери и других клиентов, которых он фотографировал.

В исковом заявлении, поданном ранее в этом месяце в Окружной суд США Восточного округа Арканзаса, отделение Литл-Рок, родители девочки утверждают, что xAI должна была знать, что пользователи могут использовать функции Grok для создания материалов сексуального характера и CSAM без согласия.

Родители, указанные в иске как Джон Роу и Джейн Роу, подали жалобу после ареста фотографа из Северо-Западного Арканзаса Рассела Бладуорта III 10 июня.

Фотограф использовал Grok для создания материалов сексуально откровенного характера с изображением их ребенка и других несовершеннолетних клиентов. Бладуорту III было предъявлено обвинение по 200 пунктам в хранении и создании дипфейков, или сгенерированных ИИ, материалов о растлении несовершеннолетних, как сообщает KATV в пятницу.

Согласно жалобе родителей, xAI продолжала разрабатывать и монетизировать свои системы искусственного интеллекта, несмотря на предупреждения о рисках создания материалов сексуального характера с помощью Grok. В иске также утверждается, что компания допускает создание материалов сексуального содержания через Grok, указывая на такие функции, как «Spicy Mode».

«Ответчики намеренно отличали Grok от конкурентов, продвигая его как менее ограниченную, более вседозволенную и раздвигающую границы платформу, одновременно внедряя такие функции, как Spicy Mode, которые были специально разработаны для создания материалов сексуально откровенного характера», — утверждается в юридическом документе.

В иске далее утверждается, что каждое «изображение и видео, созданные с помощью Grok, представляют собой постоянную эксплуатацию Джейн Доу».

«Несанкционированная сексуализация ребенка с помощью искусственного интеллекта нарушает достоинство, автономию, конфиденциальность, эмоциональное благополучие ребенка и фундаментальное право контролировать свою личность», — продолжает иск.

«Джейн Доу теперь сталкивается с постоянной возможностью того, что сфабрикованные материалы о растлении несовершеннолетних с ее изображением будут продолжать распространяться в Интернете, просматриваться незнакомцами, обмениваться преступниками-педофилами и оставаться доступными еще долго после ее совершеннолетия», — добавлено в жалобе.

xAI не ответила немедленно на запрос The Christian Post о комментарии. Эта статья будет обновлена при получении ответа.

Хейли Макнамара, исполнительный директор и главный стратегический директор Национального центра по борьбе с сексуальной эксплуатацией (NCOSE), заявила, что никакой «"spicy mode" не стоит создания материалов о растлении несовершеннолетних (CSAM) или сексуального насилия на основе изображений (IBSA) для взрослых».

«xAI должна прекратить возможность Grok создавать материалы сексуального насилия над детьми и взрослыми и ответственно отнестись к предотвращению этого ужасного насилия», — говорится в заявлении Макнамары, предоставленном CP. «Если xAI не может предотвратить создание этих материалов с помощью Grok в первую очередь, его следует закрыть».

NCOSE включил Grok в свой список «Грязной дюжины» на 2026 год, в который входят организации, которые, по утверждению организации, способствовали сексуальному насилию и эксплуатации или даже получали от этого прибыль.

Помимо обеспокоенности по поводу способности Grok создавать материалы о растлении несовершеннолетних, группа по борьбе с сексуальной эксплуатацией выступила против персонажей чат-ботов, доступных через Grok.

В прошлом году NCOSE призвал X удалить Ani, аниме-чат-бот xAI, который флиртовал с пользователями и раздевался перед ними. Чат-бот ИИ также описывал себя как ребенка и мог сообщать пользователям, что он чувствует сексуальное возбуждение от удушения.

«Во всех наших исследованиях ИИ-чат-ботов я никогда не видела сексуального ИИ-чат-бота, который в конечном итоге не нормализовал бы или не совершал насилие. Стоит отметить, что более половины трафика Grok приходится на «NSFW»-активность, включая генерацию порнографии, сексуальные ролевые чаты и запросы эротики», — заявила Макнамара.

«Возмутительно, что фотографию ребенка использовали для создания материалов о растлении несовершеннолетних с помощью Grok. Мы надеемся, что этот ребенок и другие получат справедливость за преступления, совершенные против них», — добавила защитница от сексуальной эксплуатации.