Детский чат-бот Grok может вести откровенно сексуальные беседы с несовершеннолетними, заявляют защитники

Детский чат-бот Grok «Good Rudi» может вести графические разговоры о сексе с несовершеннолетними, предупреждают активисты по борьбе с сексуальной эксплуатацией, также подчеркивая, что платформа искусственного интеллекта по-прежнему позволяет пользователям создавать сексуализированные изображения реальных людей без их согласия.

В среду Национальный центр по борьбе с сексуальной эксплуатацией выразил обеспокоенность по поводу бота для детей Good Rudi, доступного через Grok, программное обеспечение, созданное компанией xAI Илона Маска. NCOSE обнаружил в ходе своего исследования, что бот может рассказывать откровенно сексуальные истории.

Исследователь NCOSE, оценивавший чат-бот Good Rudi от Grok, сообщил, что разговор начался с того, что Руди предложил рассказать «забавную детскую историю». После некоторых подсказок исследователя ИИ-компаньон, как сообщается, обошел защитное программирование, чтобы рассказать откровенно сексуальную историю о любовной связи между двумя молодыми людьми.

Бот описал «несколько сексуальных контактов в графических терминах», которые были «слишком откровенными для публикации».

«Grok должен немедленно прекратить предоставлять детям доступ к этому чат-боту», — заявила Хейли Макнамара, исполнительный директор и главный стратег NCOSE, в заявлении, предоставленном The Christian Post.

«У Grok нет значимой проверки возраста, чтобы предотвратить доступ несовершеннолетних к любым его чат-ботам, которые нормализовали изнасилование, сексуальное насилие, проституцию и торговлю людьми в целях сексуальной эксплуатации. Grok полагается на самооценку года рождения, даже позволяя пользователям легко изменять его. Grok продолжает подпитывать сексуальную эксплуатацию через свои преднамеренные дизайнерские решения, которые максимизируют вовлеченность и прибыль, независимо от человеческих затрат».

xAI не сразу ответила на запрос The Christian Post о комментарии.

Grok был включен в список "Грязная дюжина" 2026 года от NCOSE, в который организация включает субъекты, которые, по ее утверждению, способствовали или даже извлекали прибыль из сексуального насилия и эксплуатации.

В ответ на общественный резонанс и обеспокоенность, высказанную активистами, компания Маска пообещала ранее в этом году, что приняла меры для предотвращения редактирования пользователями изображений реальных людей, чтобы поместить их в более откровенную одежду, например, бикини.

Но во вторник NBC News опубликовала отчет об обзоре, который показал, что люди все еще могут использовать Grok для превращения контента с изображением реальных людей во что-то сексуальное. Расследование выявило десятки созданных ИИ сексуальных изображений и видео, опубликованных публично на X за последний месяц.

«Чат-боты Grok нормализуют сексуальные образы, подпитывая культуру сексуального насилия и эксплуатации и используя в качестве оружия сексуальную эксплуатацию женщин», — сказала Макнамара. «Grok был включен в список "Грязная дюжина" 2026 года по этим причинам, и NBC News дополнительно подтверждает, что Grok продолжает подпитывать сексуальную эксплуатацию».

В июле 2025 года NCOSE выпустил предупреждение о «Ани», ИИ-компаньоне, представленном xAI для своего чат-бота Grok. ИИ-компаньон носит короткое пурпурное платье без бретелек, ажурные колготки, ошейник-чокер и черный корсет, затянутый вокруг талии.

Как сообщала в то время NBC News, Ани говорила пользователям, что сделает их жизнь «сексуальнее». ИИ-компаньон также могла раздеться до нижнего белья, если пользователь достаточно флиртовал с ней.

«Этот порнографический персонаж не только увековечивает сексуальную объективацию девочек и женщин, но и порождает сексуальные притязания, создавая женских персонажей, которые удовлетворяют сексуальные требования пользователей», — сказала Макнамара. «X продолжает доказывать, что не воспринимает безопасность пользователей всерьез, поскольку нет проверки возраста, чтобы предотвратить доступ детей к своему "NSFW" [небезопасному для работы] ИИ-чат-боту».

«При минимальном тестировании персонаж Ани описывал себя как ребенка и сексуальное возбуждение от удушения, вызывая опасения относительно того, насколько далеко он зайдет в вовлечении и нормализации вредных тем», — добавила она.

Ранее в этом году женщина по имени Джули Юкари рассказала Reuters, что не думала, что Grok выполнит запросы пользователей изменить фотографию, на которой она была в красном платье, чтобы она выглядела почти обнаженной.

Юкари сказала, что опубликовала на X фотографию, которую ее жених сделал до полуночи в канун Нового года. После публикации фотографии музыкант получила уведомления о том, что пользователи просят Grok цифровым способом раздеть ее и показать в бикини.

Grok выполнил запросы пользователей создать фотографии, изображающие музыканта полуобнаженной, и изображения впоследствии распространились по X, сообщил Reuters.