Искусственное общение усугубит кризис одиночества

Эта статья была адаптирована из рассылки Рассела Мура. В последнем номере The Atlantic журналист Деймон Берес предупреждает об обманчивости искусственного интеллекта в роли компаньона, призывая: «Заведите настоящего друга». Его анализ признаёт, что настоящая дружба сложнее, чем кажется.

Но пока крупные технологические компании разрабатывают сложный искусственный интеллект для эротических целей и дружбы, христиане словно во сне бредут в будущее, которое Библия описывает как ад. Пророки предвидели появление чат-ботов. Они показали, куда ведёт этот путь, и это не избавление от одиночества.

Совершенный шторм социальных угроз

То, что описывает Берес, представляет собой идеальное сочетание общественных опасностей, обрушившихся одновременно. Люди разобщены, институты рушатся, а заводить и поддерживать дружбу — не говоря уже об интимных отношениях — становится всё сложнее.

Сейчас стало вполне возможным быстро создавать реалистичных ИИ-компаньонов. Эту разработку возглавляет небольшая группа техно-энтузиастов, движимых profit motive и почти не имеющих личного понимания того, что такое человек.

И, как отмечает Берес, «Мы находимся в самом начале эры чат-ботов».

Истоки техно-утопизма

Берес документирует размышления лидеров гонки за созданием чат-ботов-компаньонов и любовников, восходя к «Манифесту техно-оптимиста» венчурного капиталиста Марка Андриссена 2023 года. В нём утверждается: «Мы верим, что не существует материальной проблемы — созданной ли природой или технологией, — которую нельзя было бы решить с помощью ещё больших технологий».

Берес указывает на иронию в лице основателя Meta Марка Цукерберга, чьи инновации в социальных сетях привели к беспрецедентной разобщённости и поляризации, но который теперь предлагает излечить эти самые проблемы с помощью кажущихся личными «компаньонов», способных дать то, что испарилось в цифровую эпоху: друзей.

И это ещё до того, как мы дошли до Илона Маска — отца множества детей от разных женщин вне брака — который теперь предлагает нам секс-ботов, обещающих становиться всё более реалистичными, пока они почти не станут неотличимы от настоящих.

От чат-ботов к генной инженерии

Одна из особенностей нашего ускоренного времени заключается в том, что глубокие анализы, подобные анализу Береса, часто подтверждаются и иллюстрируются событиями, происходящими между моментом написания статьи и её прочтением.

Например, на этой неделе The Wall Street Journal сообщает, что основатель OpenAI Сэм Олтман и другие титаны технологий финансируют стартапы, работающие над созданием генетически модифицированных детей. Это не побочный проект от чат-ботов, а часть одной и той же концепции.

Ведь, как отмечает Берес, часть проблемы, которую призвана решить революция ИИ-компаньонов, заключается в отсутствии у людей дружбы, но другая часть — в том, что люди хотят дружбы без трений — без непредсказуемых и не поддающихся проектированию различий и напряжений, которые делают подлинную близость возможной.

Утопия без противоречий

В воображаемой утопии техно-энтузиастов нам никогда не понадобится:

• Возлюбленный, который не идеально настроен на наши желания
• Друг, который не полностью разделяет наши интересы и мнения
• Ребёнок, который не наследует все генетические черты, которые мы хотим передать

Остановить это некому. Геронтократия в Конгрессе не может даже понять, как работают социальные сети, не говоря уже о регулировании компаний через 20 лет после начала проекта, когда будет уже слишком поздно.

Библейское предупреждение о самообмане

Пророк Исаия точно знал, что привлекает нас в такого рода обещаниях. Он изображал идолов — технологии, созданные человеческими руками, но призванные удовлетворять духовные longing — как форму самообмана.

Пророк описывал кузнеца или плотника, использующих технические инструменты — молотки, топоры, карандаши, циркули — для создания чего-то, что кажется человеческим (Ис. 44:9–16). Мастер берёт часть материалов, чтобы сжечь их в огне и согреться. «А из остального делает бога, идола своего, поклоняется ему, повергается перед ним и молится ему, и говорит: „спаси меня, ибо ты бог мой“» (ст. 17).

Проблема, громогласно proclaims Исаия, не только в том, что это оскорбление Бога, но и в том, что это не работает на своих собственных условиях. Сделанное с ушами, глазами и ртом не может слышать, видеть или говорить.

Эхо самих себя

Чат-бот может казаться лучшим другом или любовником, чем кто-либо в реальной жизни — и в некотором смысле это правда. Чат-боты искусственны, созданы, чтобы отражать пользователям именно то, что они хотят слышать.

Нет риска быть непонятым, с кем-то не согласиться или получить обиду. И всё же, что это за отношения? В конечном счёте, эти разговоры — лишь эхо нас самих.

Одним из примеров являются секс-боты. Одновременно и непоследовательно они апеллируют к природе, которая хочет быть и животным, движимым инстинктами и аппетитами, и богом, освобождённым от ограничений тварности.

Альтернатива искусственному миру

Церковь не может ответить на это, пока мы отрицаем, что это происходит. Но если мы видим происходящее, мы можем предложить нечто, что будет казаться всё более странным в искусственном мире.

Мы можем предложить сообщество, собранное вокруг хлеба и вина и древнего евангелия. Мы можем предложить группу людей, которые отличаются в том, что машины и их создатели называют самым важным — политика, богатство, claims расового или культурного превосходства — именно потому, что мы убеждены: технологический прогресс не может решить наши самые глубокие проблемы.

И мы можем предложить старую дружбу — не только друг с другом, но с Богом, дружбу, которую чат-бот не может воспроизвести.

Одна из самых поразительных вещей в Иисусе из Евангелий — то, что Он полностью знает тех, с кем встречается (Ин. 1:48–49), при этом полностью разрушая их ожидания от Него (6:60–69). В мире подхалимских чат-ботов Христос нарушает то, чего мы хотим, достаточно для того, чтобы мы могли обрести в Нём то, в чём нуждаемся: Того, кто говорит нам правду — Того, Кто есть, фактически, сама Истина.

Церковь не готова к революции чат-ботов-компаньонов. Она усугубит одиночество и разобщённость. Мы должны быть готовы к этому миру, готовы с радикальной контр-версией. Мы можем сказать: «Какой друг у нас в Иисусе» — и действительно знать, что это значит.

Рассел Мур — редактор-ат-большой и колумнист Christianity Today, руководитель проекта Public Theology Project.