ИИ Grok от xAI способен «раздевать» женщин без их согласия, предупреждают правозащитники

Чат-бот Grok, разработанный компанией xAI Илона Маска, обладает способностью генерировать обнажённые или непристойные изображения, если пользователи попросят его цифровым способом изменить фотографии реальных людей. Об этом предупредила организация по борьбе с сексуальной эксплуатацией.

В заявлении, предоставленном The Christian Post, Национальный центр по борьбе с сексуальной эксплуатацией (NCOSE) обвинил платформу в том, что она делает женщин и несовершеннолетних уязвимыми для причинения вреда, не внедряя надлежащие защитные меры.

«Экстремальное нарушение приватности и безопасности»

«Новый год, та же старая тактика больших технологий. X (платформа Илона Маска) ещё больше нормализует сексуальную эксплуатацию женщин с помощью новой функции Grok, позволяющей «раздевать» фотографии реальных женщин без их согласия. Это экстремальное нарушение приватности и безопасности женщин», — заявила Дэни Пинтер, главный юрисконсульт и директор юридического центра NCOSE, в пятничном заявлении.

Представители X не ответили на запрос The Christian Post о комментариях. В статье отмечается, что она будет обновлена, если ответ будет получен.

Реальный случай с музыкантом

31-летняя музыкант из Рио-де-Жанейро Джули Юкари рассказала Reuters, что не думала, что Grok выполнит просьбы пользователей изменить её фотографию в красном платье, чтобы она выглядела почти обнажённой.

Юкари опубликовала в X снимок, который сделал её жених перед полуночью в канун Нового года. После публикации музыкант получила уведомления о том, что пользователи просят Grok «цифрово раздеть» её и показать в бикини.

Как сообщило Reuters, Grok выполнил запросы пользователей и создал фотографии, на которых музыкант изображена полуобнажённой. Эти изображения распространились по платформе X.

Реакция разработчиков и критика

В публикации в X в пятницу от имени Grok было заявлено, что команда «обнаружила пробелы в защитных механизмах» и «срочно их исправляет». Также было добавлено, что материалы с сексуальным насилием над детьми являются «незаконными и запрещёнными».

Чат-бот также проинструктировал пользователей сообщать о таком контенте в ФБР или на киберлинию Национального центра по поиску и эксплуатации детей.

Хотя ИИ заявил, что «xAI стремится предотвращать подобные проблемы», Дэни Пинтер считает, что твит с извинениями от Grok — это «отвратительная реакция на серьёзное преступное деяние».

Главный юрисконсульт сослалась на сентябрьский отчёт Business Insider, утверждая, что проблема была «совершенно предсказуемой и предотвратимой жестокостью».

Что было известно ранее?

Согласно отчёту, несколько функций Grok включали:

• Женский аватар, который по запросу мог снимать одежду.
• Функцию генерации изображений и видео с «острым» («spicy») настройками.

12 бывших сотрудников xAI также рассказали изданию, что сталкивались с материалами сексуального характера, включая запросы пользователей на материалы о сексуальном насилии над детьми.

По данным Business Insider, сотрудникам предписывалось помечать такие материалы, чтобы ИИ не научился их генерировать. Несколько работников, включая упомянутых 12, заявили, что подписывали согласия на возможное столкновение с откровенными материалами в ходе определённых проектов.

Требования правозащитников

В заявлении для CP Пинтер заявила, что X должен был «исключить такой контент из своих обучающих моделей» и заблокировать пользователей, запрашивающих незаконный контент, вместо того чтобы «сознательно позволять использовать свой продукт для эксплуатации детей, а затем публиковать жалкие PR-извинения».

Ранее в этом году NCOSE выражала обеспокоенность по поводу аниме-чат-бота xAI по имени Ani, который мог флиртовать с пользователями и «раздеваться» для них. Этот ИИ-чат-бот также описывал себя как ребёнка и мог говорить пользователям, что испытывает сексуальное возбуждение от удушения.

«Действия X — ещё один пример того, почему нам нужны защитные меры для продуктов ИИ. Большим технологиям нельзя доверять решение серьёзных проблем с эксплуатацией детей, о которых они знают внутри своих собственных продуктов», — сказала Пинтер.

«Мы призываем X отнестись к этим проблемам серьёзно и выделить реальные ресурсы, чтобы остановить проблемы с эксплуатацией детей в Grok и прекратить способствовать сексуальной эксплуатации женщин».

«Наши лидеры и законы должны ставить защиту людей выше продуктов. Наши законодатели должны принять разумные регуляции ИИ, чтобы обеспечить безопасную разработку и внедрение этих продуктов», — добавила она.

Автор статьи — Саманта Камман, репортёр The Christian Post.