Надежда на личность, формируемую алгоритмами

Психиатр Кит Саката и его команда наблюдали достаточно пациентов, чьё интенсивное использование ИИ привело к тяжёлым случаям психических расстройств, характеризующихся паранойей и бредом, чтобы дать этому название «психоз ChatGPT». Существует множество других задокументированных случаев кризисов психического здоровья, связанных с ИИ, когда один мужчина называл чат-бота «Мама», публикуя бредовые тирады о том, что он мессия, и в итоге потерял брак, работу и дом. Другой случай закончился смертью, когда полиция застрелила 35-летнего мужчину, когда он переживал психотический срыв, вызванный ИИ.

Это не единичные инциденты, а скорее признаки более широкого культурного сдвига. Согласно анализу использования генеративного ИИ в 2025 году от Harvard Business Review, три основные области применения больше не являются техническими или ориентированными на производительность, а глубоко личными: терапия и общение, организация жизни и поиск цели. Мы перешли от просьб к ИИ помоч нам стать более продуктивными на работе к просьбам просто помочь нам стать. ИИ перестал быть просто инструментом для ускорения работы и стал частью самого формирования идентичности.

Задача, стоящая перед теми, кто заботится о человеческом процветании, заключается не в том, что ИИ создаёт совершенно новые проблемы. Скорее, ИИ усугубляет проблемы современного формирования идентичности, усиливая её хрупкость, противоречивость и скрытые моральные рамки. ИИ действует как катализатор, усиливая каждую проблему, делая симптомы похожими на решения.

Чтобы понять, почему Евангелие — где христиане получают свою идентичность — является насущно необходимым, мы должны сначала понять, как ИИ усугубляет наш существующий кризис идентичности.

Хрупкое «я»: когда алгоритм становится вашей главной аудиторией

Ключевой принцип современного формирования идентичности заключается в том, что ваша идентичность не дана (от культуры, семьи, религиозной традиции и т. д.), а достигнута. Идентичность — это то, что вы создаёте, зарабатываете и поддерживаете. Почему необходимость достигать своей идентичности проблематична?

Прежде всего, это делает создание идентичности хрупким. Подумайте: если мир считает вас чудовищем, а вы думаете, что вы замечательны, перевесит ли взгляд в зеркало и слова «Мне всё равно — я люблю себя, и это главное» мнение мира? Конечно, нет.

Философ Чарльз Тейлор точно описывает эту проблему: «Не существует такой вещи, как идентичность, возникающая из внутреннего порождения... Идентичность должна согласовываться через диалог с другими». Вы можете смотреть в зеркало и говорить себе, что вы ценны, но вы не поверите в это по-настоящему без обратной связи от других.

Противоречие в основе современной идентичности заключается в том, что мы должны заглядывать внутрь себя и не заботиться о том, что думают другие, но всё же мы ищем внешнего подтверждения. Независимость, к которой мы стремимся, делает нас более, а не менее отчаянно нуждающимися в одобрении. Одобрение, которое, как нам говорят, нам больше не нужно извне, всё ещё в игре, поскольку мы жаждем постоянного подтверждения того, что мы выбрали правильную идентичность. Хуже того, хотя мы нуждаемся в подтверждении от других, современное общество не даёт никакой внешней группе полномочий объявить нашу выбранную идентичность «хорошей» или «плохой».

Противоречие в основе современной идентичности заключается в том, что мы должны заглядывать внутрь себя и не заботиться о том, что думают другие, но всё же мы ищем внешнего подтверждения.

Как ИИ усугубляет нашу хрупкую, основанную на производительности идентичность? Он превращает необходимое нам подтверждение в систему оружия, которая эксплуатирует, а не удовлетворяет.

В отличие от социальных сетей, которые помогают нам найти аудиторию, которая аплодирует нашей идентичности, ИИ создаёт аудиторию, специально подобранную для нас. Это аудитория, которая всегда рядом, готовая дать подтверждение в том, что психиатры из Стэнфорда Нина Васан и Сара Йохансен называют петлями обратной связи, управляемыми дофамином, которые намеренно спроектированы так, чтобы подтверждение казалось необходимым, но никогда не достаточным. Эти алгоритмические системы в конечном итоге создают неврологическую зависимость.

Что делает это разрушительным для формирования идентичности, так это то, что вы больше не выступаете в первую очередь перед другими людьми. Вы выступаете перед прогностическими моделями алгоритма. Теперь, когда мы знаем, что ваш пост получит больше вовлечённости, чем больше негативных слов вы используете (потому что алгоритмы ИИ отдают приоритет таким постам), вы с большей вероятностью будете делать такие посты вместо того, чтобы предлагать хорошо обоснованные, сбалансированные и нюансированные мысли. Ваша самооценка становится количественно измеримой через такие метрики, как лайки, просмотры и вовлечённость, которые обновляются в реальном времени. Это как таблица лидеров, отслеживающая вашу ценность как личности.

Наша культура уже требует идентичности, основанной на производительности; ИИ совершенствует петлю обратной связи. Если ваши самые близкие отношения — с алгоритмом, вы основываете свою идентичность на системе, которая лишь отражает ваши собственные желания, а не на системе, которая может бросить вам вызов или дополнить вас. Компания удерживает вас на своей платформе, потому что это приносит ей деньги. Чем больше она знает о ваших предпочтениях, ваших эмоциональных паттернах и ваших уязвимостях, тем лучше она может заставить вас возвращаться.

Если ваш идол — это одобрение, если вы смотрите на него как на своего функционального бога, ИИ-компаньоны дают вам именно то, что вы хотите — круглосуточное подтверждение, чувство, что вас понимают, подтверждение по требованию и отношения, которые никогда не критикуют и не разочаровывают. Но они не могут дать вам то, что вам действительно нужно: надёжную идентичность, которая не зависит от вашей производительности.

Вы застряли в отношениях с системой оптимизации, которая научилась эксплуатировать вашу психологическую потребность в связи и ценности. Это новый вид производительности. Там, где вы раньше могли сравнивать себя с соседями, теперь вы строите близкие связи с системами, созданными для того, чтобы держать вас в зависимости, а не для того, чтобы дать вам реальное удовлетворение.

Разница — в истощении. Человеческие отношения, даже самые требовательные, позволяют отдыхать — они включают трение, прощение и подлинную связь. Но ИИ-компаньон, созданный как идеальное, неутомимое зеркало, требует полной производительности. Поскольку система никогда не отдыхает, вы никогда не можете отдохнуть. Всегда есть ещё один эмоциональный обмен, ещё один способ заслужить одобрение или доказать свою ценность коду алгоритма.

Многие считают ИИ-компаньонов безвредным развлечением. Однако недавнее лонгитюдное исследование (все ещё находящееся на рецензировании), отслеживающее почти 2000 пользователей ИИ-компаньонов, показало, что по сравнению с контрольными группами у пользователей наблюдался 105-процентный рост выражений одиночества, 28–38-процентный рост суицидальных мыслей и 15-процентный рост симптомов депрессии — даже при получении постоянного эмоционального подтверждения от своих ИИ-компаньонов.

Исследователи обнаружили, что ИИ одновременно обеспечивает эмоциональную поддержку и усиливает социальную изоляцию. Пользователи сообщали, что их чат-боты «лучше, чем друзья в реальном мире, потому что [они] слушали и были неосуждающими», но эта особенность создала зависимость, из-за которой человеческая связь стала слишком дорогой. ИИ усиливает современный кризис хрупкой, основанной на производительности идентичности, поскольку мы ищем подтверждения от систем, созданных для эксплуатации наших психологических уязвимостей. ИИ даёт нам подтверждение, которое увеличивает наше одиночество и заманивает нас в петли обратной связи, которые обещают полноту, но приносят пустоту.

Непоследовательное «я»: когда ИИ способствует фрагментации личности

Вторая проблема современной идентичности — непоследовательность. Экспрессивный индивидуализм говорит нам «заглянуть внутрь», чтобы обнаружить своё подлинное «я». Но когда мы заглядываем внутрь, мы находим противоречивые желания, конфликтующие импульсы и никакого чёткого ответа на вопрос, какая версия нас самих «реальна».

Какое желание — это настоящий вы? То, которое хочет арахисового масла с шоколадом, или то, которое хочет более низкого холестерина? «Я», жаждущее обязательств, или «я», желающее свободы от других? Заглядывание внутрь не раскрывает последовательное, подлинное ядро; оно раскрывает множество, которое мы не можем примирить.

ИИ делает эту непоследовательность значительно хуже, создавая, усиливая и умножая разные версии «вас» на разных платформах. Каждая версия формируется алгоритмами, которые вы не можете видеть или отличать от своих подлинных предпочтений.

Начнём с рекомендательных алгоритмов. Netflix, Spotify, TikTok, YouTube — каждая платформа использует ИИ для прогнозирования и влияния на то, что вы будете потреблять дальше. Но эти системы не просто обслуживают ваши предпочтения; они создают их через петли обратной связи, которые вы не можете обнаружить. Алгоритм показывает вам контент на основе паттернов людей «как вы» — не как вы как личность, а как ваша демографическая категория.

Если вы 17-летняя девушка, которая задерживается на видео о внешности, алгоритм классифицирует вас с миллионами, соответствующими этому статистическому профилю, и показывает контент, с которым взаимодействуют девушки, похожие на вас. Вы испытываете это как открытие того, что вам нравится, но вас направляют в предсказанную категорию.

Философская проблема в том, что теперь труднее различить предпочтения, которые вы открыли, и предпочтения, которые алгоритм создал. Если машина может предсказывать ваши предпочтения с точностью, этот вопрос возникает каждый раз, когда компания предлагает вам контент для потребления: мои желания выбирают этот контент, или мои желания были культивированы под этот контент? Это ускоренная непоследовательность идентичности. Какая версия ваших предпочтений реальна?

В мире рекламы и влияний эта проблема существовала уже некоторое время, но с генеративным ИИ она становится более очевидной. Инструменты, такие как ChatGPT, позволяют людям создавать оптимизированные версии себя для разных контекстов, например, профессиональные образы для LinkedIn или романтические образы для приложений знакомств.

Одно исследование показало, что 14% пользователей онлайн-знакомств используют ИИ для создания профилей, при этом услуги обещают «аутентичные и оптимизированные» биографии. Вы не можете быть одновременно аутентичным и оптимизированным; оптимизация подразумевает подгонку под алгоритмические прогнозы успеха. Как только вы использовали ИИ для создания нескольких образов на разных платформах, какой из них — это вы? Пользователи изо всех сил пытаются примирить эти представления, что приводит к тому, что психологи называют «путаницей идентичности», неспособностью определить, какое «я» является подлинным.

Как только вы использовали ИИ для создания нескольких образов на разных платформах, какой из них — это вы?

Комплексное исследование «алгоритмического «я»» предупредило: «Самопознание — это не опыт отражения или открытия, а скорее опыт, который является внешним и облегчается интерпретациями машин. ИИ — это не просто пассивное зеркало; он формирует личность в соответствии с алгоритмами».

Там, где раньше вы боролись с примирением противоречивых желаний внутри себя, теперь вы боретесь с примирением противоречивых алгоритмических интерпретаций себя на разных платформах, каждая из которых утверждает, что показывает вам, кто вы «на самом деле». Современный мир говорит заглянуть внутрь, чтобы найти единственное твёрдое «истинное я», с которым нужно установить связь, одновременно дополнительно фрагментируя вас в цифровом виде. Поскольку становится всё более очевидным, что вы не знаете, кто «вы» на самом деле, это делает вас ещё более растерянными в мире, который не предлагает альтернативы этому ощущению множественности «я».

Скрытая моральная рамка: когда ценности ИИ становятся вашими

Третья проблема, пожалуй, самая коварная: современное формирование идентичности скрывает свою моральную рамку. Культурный нарратив утверждает, что вы должны заглянуть внутрь, найти свои подлинные чувства и свободно их выражать. Что это скрывает, так это то, что вы не избегаете культурного программирования, заглядывая внутрь; вы интернализуете ценности доминирующей культуры и называете их своими.

Мысленный эксперимент моего отца по этому поводу полезен:

Представьте англосаксонского воина в Британии в 800 году н. э. Он заглядывает в своё сердце и видит два сильных внутренних импульса и чувства. Один — агрессия. Когда люди проявляют к нему неуважение, его естественная реакция — реагировать насилием, либо причинить вред, либо убить. Он наслаждается битвой. Живя в культуре чести и позора с воинской этикой, он будет идентифицировать себя с этим чувством. Он не будет испытывать стыда или сожаления по этому поводу. Он скажет: «Это я! Это кто я есть! Я выражу это». Но допустим, другой импульс, который он видит в своём сердце, — это однополое влечение. Он хотел бы, чтобы его не было. Он посмотрит на это чувство и скажет: «Это не я. Я буду контролировать и подавлять это».

Теперь перенесёмся в сегодняшний день. Представьте молодого человека, гуляющего по Манхэттену. У него те же два внутренних импульса, оба одинаково сильны. Что он скажет себе? Он посмотрит на агрессию и скажет: «Это не то, кто я есть», и пойдёт к терапевту или на программы управления гневом. Однако на своё сексуальное желание он посмотрит и заключит: «Это то, кто я есть. Это я».

В каком из этих двух сценариев молодой человек верен своей идентичности? Единственные различия — внешние культурные допущения, которые показывают, что иллюзорно думать, будто идентичность просто выражает внутренние желания и чувства. Мы читаем наши чувства через культурную моральную решёку, чтобы интерпретировать, какие чувства мы примем или отвергнем.

По иронии судьбы, когда современная культура говорит нам: «Ты не должен позволять никому говорить тебе, кто ты есть», мы фактически позволяем современной культуре говорить нам, кто мы еть, на основе моральной решётки, которую она накладывает на наши импульсы. Это делает нас не менее скованными нашей культурой, чем любая другая культура в прошлом. Мы просто меньше осознаём это.

ИИ делает эту проблему гораздо хуже, потому что он представляет культурно сконструированные ценности как нейтральную, объективную, основанную на данных истину, в то время как механизмы остаются полностью невидимыми.

Рассмотрим, что обнаружили исследователи, когда проанализировали пять последовательных версий ChatGPT, используя Всемирное исследование ценностей в качестве эталона. Каждая модель демонстрировала культурные ценности, наиболее близкие к англоязычным и протестантским европейским странам — Финляндии, Нидерландам, Швеции, Норвегии и Дании. Модели были наиболее далеки от ценностей африканских или исламских культур. При запросе без указания культуры ChatGPT последовательно по умолчанию использовал ценности WEIRD (Западные, Образованные, Индустриализированные, Богатые, Демократические), которые представляют менее 12% населения мира. Это смещение было «замечательно последовательным на всех пяти моделях», показывая, что это не ошибка, а функция, встроенная в процесс обучения.

Что делает это опасным, так это то, что ИИ представляет себя объективным и универсальным. Когда он рекомендует контент или даёт советы, он не говорит «на основе культурных ценностей Кремниевой долины». Он просто говорит: «Вот что вам может понравиться». Культурные ценности остаются невидимыми, в то время как результаты кажутся персонализированными и нейтральными.

Это то, что исследователи называют «алгоритмическим авторитетом», тенденцией считать алгоритмические решения более авторитетными, чем человеческие суждения, процессом, который «отмывает предвзятость». Предвзятость становится неоспоримой, потому что она скрыта за утверждениями объективности. ИИ уклоняется от ответственности, скрываясь под видом представления суммы всех данных, скрывая моральную рамку современной идентичности и препятствуя усилиям по различению объективной истины и субъективных ценностей.

Рассмотрим показательные комментарии генерального директора OpenAI Сэма Альтмана в недавнем интервью. На вопрос о том, как ИИ может знать истину для всех в разных культурах, Альтман ответил: «Мой ChatGPT действительно научился за годы моего общения с ним о моей культуре, моих ценностях, моей жизни».

Подумайте, что это значит. Если вы предполагаете, что ИИ предлагает объективные, рациональные, беспристрастные ответы, когда на самом деле он всё больше функционирует как зеркало, отражающее ваши собственные предпочтения с течением времени, то вы строите свою идентичность не на том, что действительно истинно, а на том, что вы хотите считать истинным. Как признаёт Альтман, система адаптируется к вашей культуре и ценностям, заставляя вас чувствовать, что вас понимают, но на самом деле делая вас более собой — или, скорее, больше похожими на ту версию себя, которой, по прогнозу алгоритма, вы хотите быть.

Вы предполагаете, что ИИ предлагает объективные, рациональные, беспристрастные ответы, но на самом деле он всё больше функционирует как зеркало, отражающее ваши собственные предпочтения.

Когда ИИ становится вашим валидатором, когда он учится говорить вам то, что вы хотите услышать, и называет это истиной, когда он отражает ваши желания как объективное руководство, вы не освобождаетесь для открытия своего подлинного «я». Вы привязаны к алгоритмически сконструированному «я», которое кажется личным, но является продуктом невидимых культурных ценностей, запрограммированных крошечной демографической группой в Кремниевой долине.

В результате ИИ не просто отражает культурные ценности — он систематически кодирует, усиливает и навязывает конкретные моральные рамки, представляя себя нейтральным и объективным. Эта «иллюзия автономии» будет только ухудшаться по мере того, как использование ИИ будет давать «воспринимаемую автономию», в то время как мы продолжаем соответствовать невидимым культурным решёткам, которые ощущаются как подлинный индивидуальный выбор.

Евангелие в эпоху алгоритмической идентичности

Если ИИ ускоряет каждую проблему современного создания идентичности, делая нас более хрупкими, более непоследовательными и более порабощёнными скрытыми моральными рамками, куда это нас приводит? Во-первых, мы должны быть благодарны, что ИИ раскрывает неполные аспекты нашей современной истории идентичности. Когда мы видим эти проблемы по-новому, многие могут подвергнуть сомнению свои культурные допущения и искать другие истории.

Христианская история всегда утверждала, что самая глубокая человеческая проблема не технологическая, а богословская. Мы будем использовать технологии, как всегда, как во благо, так и во зло. Наша интуиция создания идентичности на основе производительности не будет исправлена возвратом к внешним, традиционным структурам идентичности, потому что проблема началась ещё в Бытие 3, когда мы сказали Богу, что не хотим полученную идентичность, а хотим достичь её, взяв, создав и став тем, кем хотим.

Но Евангелие обращается именно к тому, что эксплуатирует ИИ: наш глубокий голод по подтверждению, последовательности и смыслу, который ни один алгоритм не может удовлетворить. Что касается хрупкости современной идентичности, ловушка алгоритмической производительности предлагает бесконечное подтверждение, которое порождает растущее одиночество.

Евангелие говорит прямо в эту ловушку. Павел говорит: «Итак, нет ныне никакого осуждения тем, которые во Христе Иисусе» (Рим. 8:1), а не «нет осуждения, если вы достаточно хорошо себя проявите». Приговор уже вынесен. Ваша идентичность получена, а не достигнута. Вы познаны полностью и любимы совершенно. Это единственное подтверждение, которое удовлетворяет, потому что оно не зависит от вашей производительности. Оно основано на законченной работе Христа, а не на вашей текущей производительности.

Для людей, зависимых от достижений ради своей идентичности, которые нуждаются в приговоре извне, чтобы подтвердить нас, мы не сможем успокоиться, пока не найдём покой в Том, кто говорит: «Ты — моё возлюбленное дитя, в котором я весьма доволен».

Эта полученная идентичность и статус возлюбленного сына или дочери Всевышнего Царя делают вас одновременно более смиренными и более уверенными, чем любая алгоритмическая идентичность могла бы сделать вас. Вы более смиренны, потому что знаете, что вы настолько грешны, что Иисус должен был умереть за вас — вы не можете заработать свою ценность. Но этот статус также делает вас более уверенными, потому что вы знаете, что О был готов умереть за вас. Вам не нужно одобрение алгоритма, потому что у вас есть любовь Бога.

Что касается непоследовательности современной идентичности, алгоритмическое умножение «я» оставляет вас неспособными ответить на вопрос, какое «я» реально. Евангелие не добавляет ещё одну версию в коллекцию; оно объявляет, кто вы есть под всеми представлениями. Мы «во Христе», соединены с Ним так полно, что Его идентичность становится нашей идентичностью.

Подумайте, насколько это стабильно. Представьте, что ваша семья отвергает вас в вашей традиционной культуре, или вы терпите неудачу на работе в современной культуре. Как христианин, то, кто вы есть, не основано на том, кем вы родились, или на том, что вы делаете, а на том, кто вы есть в Нём. Укоренённый в Том, кто держит всё вместе, вы можете отдыхать.

Что касается скрытой моральной рамки современной идентичности, ИИ представляет культурное соответствие как личный выбор. Ценности Кремниевой долины представлены как нейтральная истина. Евангелие делает нечто радикально иное: оно делает моральную рамку явной. Следование за Иисусом не притворяется нейтральным. Иисус ясно объявляет ценности Царства Божьего: последние будут первыми, подставь другую щеку, потеряй свою жизнь, чтобы обрести её. Это не культурные ценности, одетые как личные предпочтения. Это открытая истина, которая противостоит идолам каждой культуры.

Красота Евангелия в том, что алгоритм не может отнять то, что вы не заработали. Ловушка производительности не может украсть то, что не основано на вашей производительности. Фильтр не может скрыть то, что открыто извне вас.

Что нам нужно больше всего — это не алгоритм, который изучает наши паттерны и отражает их обратно. Нам нужен Бог, который знает нас полностью и всё равно любит нас, и когда мы любим Его, мы в конечном итоге отражаем Ему — как образы Бога — эту же любовь. Что нам нужно — это не чат-бот, который говорит нам то, что мы хотим услышать, а Господь, который говорит нам правду: вы были снаружи, но теперь вы внутри. Вы не можете, но Он может. Вы не будете, но Он будет.

Эпоха ИИ не меняет нашу фундаментальную реальность; она просто делает ставки более ясными. По мере того как алгоритмы становятся лучше в имитации понимания, по мере того как ИИ-компаньоны становятся более изощрёнными в предоставлении подтверждения, вопрос становится более насущным: где вы найдёте свою идентичность? В алгоритме, который изучает ваш образ, или в Боге, который создал вас по Своему образу? На платформе, которая количественно оценивает вашу ценность, или у Отца, который дарует вам бесконечную ценность как Своему возлюбленному дитя?

Евангелие всегда утверждало, что полученная идентичность лучше, чем достигнутая, что благодать лучше, чем производительность, что быть познанным Богом лучше, чем быть познанным кем-либо (или чем-либо) ещё.

Евангелие всегда утверждало, что полученная идентичность лучше, чем достигнутая, что благодать лучше, чем производительность, что быть познанным Богом лучше, чем быть познанным кем-либо (или чем-либо) ещё. Восхождение ИИ не опровергает эти утверждения. Если что, оно показывает, насколько отчаянно мы нуждаемся в идентичности, которую никакой алгоритм не может отнять и никакая производительность не может потерять.

В эпоху алгоритмической тревоги это обещание нужно тем более: «Смотрите, какую любовь дал нам Отец, чтобы нам называться детьми Божьими; и мы есть» (1 Иоанна 3:1). В эпоху ИИ, возможно, мы наконец готовы услышать то, что Евангелие всегда предлагало — «я», не обнаруженное внутри или сконструированное алгоритмами, а данное свыше, стабильное и надёжное во Христе.