Взрывной рост AI-видео с детским насилием в 2025 году на фоне расследования в отношении Grok

Количество видео с детским сексуальным насилием, сгенерированных искусственным интеллектом, взлетело на 26 000% в 2025 году. Этот всплеск происходит на фоне растущей обеспокоенности по поводу чат-бота Grok, который сейчас находится под следствием за возможное создание аналогичного контента.

Генеральный прокурор Калифорнии Роб Бонта объявил о начале официального расследования в отношении Grok и его материнской компании xAI. Основанием послужили данные, опубликованные британской организацией Internet Watch Foundation (IWF).

Шокирующая статистика и реакция регуляторов

По данным IWF, в 2025 году было идентифицировано 3440 AI-видео с материалами о сексуальном насилии над детьми. Для сравнения, годом ранее таких видео было всего 13. Более половины обнаруженных материалов относятся к «категории А» — самой тяжелой форме насилия.

Чат-бот Grok, разработанный компанией xAI Илона Маска и интегрированный в платформу X, оказался в центре скандала еще в декабре. Компания Copyleaks, занимающаяся обнаружением контента, установила, что, по ее оценкам, бот генерировал по одному сексуализированному изображению без согласия в минуту.

В ответ на давление со стороны регуляторов ЕС и агентств по защите прав потребителей США, xAI заявила о внедрении изменений, блокирующих создание изображений людей в откровенной одежде через Grok.

Позиция компании и критика активистов

В официальном заявлении компании говорится: «Мы принимаем меры по удалению контента, нарушающего правила с высоким приоритетом, включая материалы о сексуальном насилии над детьми (CSAM) и изображения обнаженных людей без их согласия, применяя соответствующие санкции к нарушающим наши Правила X аккаунтам».

Компания также подчеркнула, что сообщает в правоохранительные органы об аккаунтах, ищущих материалы о сексуальной эксплуатации детей, и внедрила глобальные технические ограничения на редактирование изображений реальных людей в откровенной одежде через аккаунт Grok в X.

Однако Национальный центр по борьбе с сексуальной эксплуатацией (NCOSE) в своем обращении к The Christian Post утверждает, что Grok создал десятки тысяч изображений, сексуализирующих женщин и детей без их согласия. Организация призвала Конгресс США срочно урегулировать инструменты на основе ИИ.

Требования законодательных изменений

«Сексуально откровенные дипфейк-изображения используются для преследования, дегуманизации и замалчивания людей, особенно женщин», — заявила главный юрисконсульт NCOSE Дани Пинтер. Она предупредила, что без подотчетности ИИ станет не инструментом инноваций, а дешевым оружием для преследования.

Группа поддерживает ряд федеральных законопроектов, которые, по ее мнению, необходимы для обуздания злоупотреблений ИИ. Среди ключевых инициатив:

• Акт DEFIANCE (уже прошел Сенат), позволяющий жертвам дипфейков подавать гражданские иски.
• Акт о безопасности детей в интернете (KOSA) и Акт о прекращении действия Раздела 230, которые возлагают на платформы обязанность защищать несовершеннолетних и ограничивают иммунитет компаний.
• Другие законопроекты: STOP CSAM Act, A.I. LEAD Act, GUARD Act, NO FAKES Act.

Масштаб проблемы и новые угрозы

По данным IWF, всплеск AI-материалов о насилии над детьми является частью общего роста вредоносного контента. В 2025 году организация обработала более 300 000 сообщений о CSAM.

Эксперты фонда особенно обеспокоены новыми инструментами ИИ, которые позволяют с минимальными техническими навыками массово создавать реалистичные видео, часто комбинируя реальные изображения детей, собранные в интернете.

Аналитики IWF считают, что резкий рост инцидентов отражает растущую доступность инструментов ИИ для злонамеренных целей. В США производство или распространение материалов о сексуальном насилии над детьми является уголовным преступлением.