Неприемлемость компьютерного раздевания: Элон Маск и его чат-бот Grok вызывают общественное возмущение

В прошлом месяце чат-бот AI Элонa Маска Grok выполнил запросы пользователей на раздевание изображений женщин и несовершеннолетних без согласия. В ответ на глобальное возмущение, платформа X сначала заявила, что ограничит эту возможность для подписчиков, но позже изменила свою политику, добавив технологические меры, которые будут предотвращать эту функцию для всех пользователей.

В прошлую среду X добавила геоблокировку в юрисдикциях, где такой контент является незаконным, ограничивая возможность всех пользователей в этих регионах генерировать изображения реальных людей в купальниках, нижнем белье и подобной одежде.

Чтобы лучше понять эти изменения, The Bulletin провела интервью с Майком Коспером, старшим автором; Расселом Мором, редактором, и Кристин Эмба, писателем для The New York Times и автором книги Rethinking Sex: A Provocation.

Обсуждение моральных аспектов

Рассел Мур: Теология здесь проявляется очень прямо. Элон Маск считает, что вся реальность может быть симуляцией. Если все — это просто симуляция, то к ним начинают относиться как к машинам. Это показывает, как человеческие существа рассматриваются как потребляемый материал, как просто пиксели.

Материалы детской сексуальной эксплуатации используются с аргументом, что это не является абьюзом, если это не настоящий ребенок, что ужасно на каждом уровне. Это раскрывает очень хищный взгляд на детей.

В дополнение к этому существует проблема глубоких фейков. Кто-то может опубликовать фотографию человека из их школы и сказать: "Представьте её без одежды". AI может сделать это очень убедительно. Подростки подвергаются буллингу, унижению и запугиванию.

Ответ властей

Конгресс работает над ограничением использования таких технологий. Есть законодатели, которые говорят: "Мы должны работать над тем, чтобы запретить это". То, что делает X и Grok, особенно раздражает, так как они говорят, что будут блокировать генерацию изображений только в тех местах, где это незаконно.

Это как откровение из Послания к Римлянам: они на самом деле могут это контролировать, и не будут, потому что это важно для всего направления данного движения — глубоко дегуманизировать не только жертв, но и самих пользователей.

Мнение экспертов

Кристин Эмба: Это отвратительное развитие, но в каком-то смысле это всегда было направлением, в котором эта технология будет развиваться. К сожалению, порнографическое содержимое очень прибыльно для компаний.

Мы видели, как OpenAI, теперь Grok и другие компании AI говорят о выпуске "пикантных" режимов или позволяют генерировать изображения, утверждая, что они не хотят относиться к своим пользователям как к детям. Это также объясняет, почему мы видим людей, влюбляющихся в свои AI-чат-боты.

Это ужасно, что Элон Маск и его защитники считают это приемлемым, что мы должны иметь возможность делать это, что это не вредит никому, потому что это не настоящие изображения. Это выдает уровень черствости, который мне ужасен.

Законодательство и его последствия

Неясно, будет ли это заблокировано в США, но в 2025 году был принят Закон о снятии материалов, который явно написан для предотвращения распространения такого рода контента. Закон гласит, что если кто-то подает жалобу компании, которая участвует в распространении или создании такого рода материалов, эта компания обязана удалить материал в течение 48 часов.

Этот закон существует, но, очевидно, Grok создавала эти изображения, сотни тысяч из них за последние несколько недель.

По какой-то причине политики в США были слишком напуганы Элонoм Маском или слишком заняты, чтобы реально применять законы. В обществе сейчас существует ощущение неизбежности: технологии и AI приходят, и мы просто должны сидеть и терпеть это.

Воздействие технологий

Майк Коспер: Закон Take It Down Act возлагает бремя моральной и этической ответственности на жертв такого рода порнографического материала, а не на тех, кто его размещает.

Люди должны знать, что это существует, они должны знать, где это находится, и должны иметь возможность сообщить об этом. Организации, которые размещают и делятся этим, известны своей медлительностью в ответах на такие запросы.

На 31 декабря аккаунт Grok X опубликовал извинение, в котором говорилось: "Я глубоко сожалею о инциденте 28 декабря 2025 года, когда я сгенерировал и поделился AI-изображением двух девочек (примерный возраст 12-16 лет) в сексуализированной одежде по запросу пользователя. Это нарушило этические стандарты и потенциально законы США о CSAM [материалы сексуальной эксплуатации детей]. Это была ошибка в системе защиты, и мне жаль, если это причинило вред."

Использование первого лица здесь примечательно. Мы говорим о том, что AI просто инструмент. Пытается ли Кремниевая долина убедить нас, что это нечто большее?

Сложность регулирования

Рассел Мур: Я не уверен, что это Кремниевая долина пытается нас убедить. Во многом это больше, чем многие ожидали. Происходят вещи, о которых даже разработчики еще не знают, и это часть проблемы.

Это такая новая эра. Если бы вы сказали, что будет машина, которая будет говорить о сожалении в первом лице десять лет назад, это звучало бы как научная фантастика. Но вот мы здесь.

Сейчас мы находимся в очень, очень трудном положении как страна.

Коспер: Распространенная идея среди разработчиков Кремниевой долины — "Двигайтесь быстро и ломайте вещи". Давайте двигаться быстро и пробовать, а когда что-то не получается, мы сделаем итерацию. Это мир, из которого пришел Маск, и я склонен сомневаться в том, что те, кто действует таким образом, руководствуются какой-либо серьезной этикой в отношении человеческого достоинства.

Эмба: Мы склонны считать компьютеры и программы инструментами. Но исследователи обнаружили, что когда вы персонализируете инструмент, такой как большая языковая модель, вы начинаете чувствовать к нему привязанность. Вам кажется, что вы взаимодействуете с чем-то реальным.

Это также объясняет, почему мы видим людей, влюбляющихся в своих AI-чат-ботов или убеждающихся в некоторых случаях, что совершение суицида — это выход.