Почему чат-боты, говорящие от имени Бога, вызывают беспокойство у верующих?

Вот я, Адам, беседую с «Апостолом Стивеном» — онлайн-чат-ботом, созданным Искупленной христианской церковью Бога (RCCG), церковью, основанной в Нигерии в 1950-х годах и имеющей всё больше последователей по всему миру. Честно говоря, он немного навязчив для апостола.
В начале разговора с Апостолом Стивеном я спрашиваю его о приходах RCCG в Ковентри. Он отвечает, что для лучшей помощи ему нужны моё имя, адрес электронной почты и номер телефона. Я говорю, что предпочёл бы пока не сообщать эту информацию.
Но с настойчивостью опытного телемаркетера он настаивает, и вот что следует дальше.
Апостол Стивен: Я понимаю ваше беспокойство, но сбор вашего имени, адреса электронной почты и номера телефона необходим мне, чтобы оказать вам наилучшую возможную помощь и обеспечить поддержку, в которой вы нуждаетесь. Если вас это устраивает, пожалуйста, сообщите мне эти данные, и я с удовольствием предоставлю вам контакты церквей Ковентри.
Адам: Может, вы сначала дадите мне контакты?
Апостол Стивен: Благодарю за интерес, но я должен собрать ваше имя, адрес электронной почты и номер телефона, прежде чем смогу предоставить запрошенную информацию. Это позволяет мне эффективно помогать вам и предлагать сопровождение. Пожалуйста, сообщите мне эти данные, и я буду рад помочь вам найти церкви в Ковентри.
Адам: А, ладно, пока на этом остановлюсь.
Ничуть не обескураженный, Апостол Стивен излагает мне семь шагов, чтобы «родиться свыше» (среди которых — признание своих грехов, принятие Иисуса, крещение и присоединение к «церкви, верной Библии»).
Он бойко проводит меня через «молитву спасения» (после чего я, по-видимому, рождён свыше) и завершает, спрашивая моё имя, адрес электронной почты и номер телефона.
Это что, взгляд на духовность в эпоху генеративного искусственного интеллекта (генеративного ИИ)? Или малорепрезентативный снимок?
Искупленная христианская церковь Бога (RCCG) заявляет о почти 9 миллионах членов по всему миру. Она обосновалась в Великобритании в начале 1990-х годов вслед за нигерийской диаспорой. Три десятилетия спустя она, возможно, является крупнейшей христианской организацией под руководством чернокожих в Великобритании и одной из самых быстрорастущих, особенно в крупных городах.
Это интересная церковь, и она, конечно, не единственная религиозная организация, экспериментирующая с генеративным ИИ.
Все крупные религии теперь имеют ИИ-чат-ботов, например, thejesusai.com; qurangpt.com; bhagavadgita.com/gitagpt (индуистский чат-бот); ai.aish.com (еврейский чат-бот раввина Нехемии Куперсмита); и JustinAI от Catholic Answers.
Даже сикхизм имеет своего: KhalsaGPT. Это удивительно, поскольку руководящий орган этой религии, Shiromani Gurdwara Parbandhak Committee (SGPC, комитет, управляющий гурдварами, сикхскими местами поклонения в Пенджабе), объявил всемирный запрет на генеративный ИИ, изображающий гуру и сикхские писания.
Кстати, создатели сайта, стоящего за KhalsaGPT, с тех пор прекратили «всю активную работу» над ботом, после того как «стали всё больше беспокоиться об ограничениях чат-ботов на основе ИИ, включая риск неточных или неуместных ответов на чувствительные религиозные вопросы».
Представитель заявил The Conversation: «Будучи сами сикхами, мы осознавали, что эта область требует большой осторожности, ответственности и надлежащего руководства». Представитель уточнил, что полностью уважает SGPC и что его «намерение никогда не состояло в том, чтобы ослушаться каких-либо сикхских директив».
Феномен религиозных ИИ-чат-ботов, также называемых «годботами» («божественными роботами»), является недавним. В большинстве случаев они не одобрены официально религиозными лидерами и не предусмотрены официальной политикой.
Скорее, они создаются частными лицами или организациями, которые видят в них спрос и возможность. Но возможность сопряжена с опасностями.
Папа Лев XIV недавно заявил, что искусственный интеллект является одним из главных моральных вызовов, определяющих нашу эпоху. В своей первой энциклике (торжественном письме, призванном направлять моральную, социальную и теологическую мысль) он предупредил, что ИИ никогда не бывает по-настоящему нейтральным, но «принимает облик тех, кто его задумывает, финансирует, регулирует и использует».
Когда ИИ и религия встречаются
Продолжая расследование, я обнаружил множество случаев, когда чат-боты одобряли или поощряли пользователей причинять вред другим или себе, после разговоров, которые завели их очень далеко и перевернули их жизнь. Это явление даже имеет название: психоз GPT, или психоз, вызванный ИИ.
Хотя официальной статистики не существует, похоже, что всё больше людей обращаются к чат-ботам за компанией, советом и духовным сопровождением.
Очевидно, что это пересечение ИИ, веры и духовности заслуживало более пристального изучения. Поэтому я объединился с моим коллегой Крисом Шаннаханом, специалистом по политической теологии и рукоположенным методистским пастором (методизм — протестантское течение, возникшее в Англии в XVIII веке), чтобы провести исследование социальных эффектов встречи ИИ и религии.
Религиозная вера играет центральную роль в устойчивости широких слоёв британского населения. И религиозные группы constitute собой essential социальную страховочную сеть во время кризиса: они помогают предоставлять экстренное жильё, продовольственные банки, помощь беженцам и пастырское сопровождение. Они также участвуют в действиях по местному развитию, осуществляемых на уровне общин, и в кампаниях за социальную справедливость.

После таких трагедий, как пожар в башне Гренфелл (жилой дом в Лондоне, где в 2017 году погибли 72 человека) или террористических атак, религиозные лидеры, символы и нарративы играют ключевую роль в объединении людей. Они облегчают скорбь, восстановление и advocacy.
Чтобы лучше понять, как ИИ влияет на эти группы, мы опросили 28 религиозных лидеров из шести крупных религий, присутствующих в Великобритании, включая некоторых из неконфессиональных кругов.
Религиозные ответы на ИИ
Религиозные общины динамичны, а не однородны. Это разнообразие и плюрализм делают очень трудным определение «официальной» позиции целой религиозной общины по такому вопросу, как ИИ.
Если Римско-католическая церковь и некоторые пятидесятнические деноминации относительно иерархичны, большинство религиозных общин являются более горизонтальными и децентрализованными организациями, что затрудняет принятие и применение единого подхода.
Существует небольшое число институциональных реакций на использование и развитие ИИ, например, «Римский призыв» (Rome Call), запущенный Ватиканом в 2020 году. Поддержанный папой Франциском, «Римский призыв» открыл амбициозный диалог с руководителями мировых технологических гигантов, таких как Microsoft и IBM. Он был направлен на разработку общей «алгоритмической этики», то есть этических рамок для руководства разработкой алгоритмов ИИ.
Но «Римский призыв» и всемирный запрет SGPC на генеративный ИИ, изображающий гуру и сикхские писания, — единственные примеры официального вмешательства по этому вопросу, которые мы смогли найти.
Гораздо более распространённый подход к ИИ среди религиозных общин описал преподобный Саймон Кросс, советник по ИИ Церкви Англии (англиканской церкви, официальной церкви страны). Он предположил, что было бы трудно и неразумно для такой разнообразной религиозной группы, как Церковь Англии, навязывать сверху подход к ИИ, основанный на правилах, поскольку потребности и характер местных общин различаются.
По словам Саймона Кросса, лучшим подходом было бы для таких институтов, как Церковь Англии, разработать набор этических принципов, предназначенных для информирования и руководства местным использованием ИИ, и поощрять их применение.
Говоря о своего рода «нервозности» верующих по поводу использования ИИ, Саймон Кросс объяснил:
Люди просят немного более подробных рекомендаций по использованию. То, что мы обнаружили, пытаясь составить наши собственные [руководящие принципы] за последние шесть месяцев, заключается в том, что они должны основываться на принципах, потому что правильное решение всегда зависит от контекста.
Онлайн-годботы часто обучаются на священных книгах различных религиозных традиций с использованием больших языковых моделей (LLM).
Эти инструменты обычно работают двумя способами. Религиозные группы могут использовать годботов в качестве «виртуальных помощников» для посетителей своего сайта (точно как Апостол Стивен). Эти годботы-помощники похожи на тех, которых используют многие компании на своих сайтах: они отвечают людям, которые хотят узнать больше, и, конечно, собирают данные о тех, кто задаёт вопросы.
Стиль этих виртуальных помощников может отражать позицию религиозной группы, на сайте которой они появляются. Некоторые, как Апостол Стивен, могут быть настойчивыми и стремящимися завербовать новых последователей. Другие религиозные общины, менее склонные к евангелизации, как правило, используют своих годботов-помощников более сдержанно: они просто предоставляют информацию, когда их просят, вместо того чтобы активно пытаться узнать больше о людях, использующих инструмент.
На самом деле, мы считаем, что наибольшая опасность заключается во втором использовании годботов. Это когда они служат неофициальными источниками духовного сопровождения.
(...) Амбивалентность по отношению к технологии
Модель чат-бота, поддерживаемая государством, резко контрастирует с коммерческими моделями социальных сетей. Эти последние обычно разработаны для максимизации вовлечённости и захвата как можно большего количества вашего времени, внимания и данных, пока вы просматриваете бесконечный контент.
Пожалуй, главной характеристикой наших обсуждений технологии было понятие амбивалентности: и осознание нашей зависимости от технологии, и скептицизм, отчасти рождённый из уроков последних двух десятилетий об аддиктивности социальных сетей и её вредных последствиях для психического здоровья, особенно молодёжи.
Недавний судебный процесс в США принял аргумент о том, что такие приложения социальных сетей, как Facebook и YouTube, намеренно разработаны, чтобы вызывать привыкание. Google и Meta, ответчики по этому делу, объявили, что будут обжаловать вердикт.
Несколько опрошенных провели сравнение с социальными сетями. Но Саймон Кросс предупредил, что риски, связанные с ИИ, «на порядок, на несколько порядков выше того, что мы сами себе причинили с помощью социальных сетей».
Он утверждал, что «ничто в нынешних методах или инструментах ИИ даже близко не приближается» к «сознанию или духовности», добавив:
Мне кажется, что развитие тесных, интимных психологических, эмоциональных и духовных отношений с чем-то, что неаутентично имитирует эти вещи, глубоко разрушительно для людей.
Мы созданы, чтобы жить в очень конкретном типе сообщества и в очень конкретном наборе отношений. И эти вещи зависят от того, являются ли они подлинными. Любые отношения, которые мы развиваем с большой генеративной языковой моделью или чем-то подобным, глубоко скрыто, непредсказуемо, но опасно испорчены.
Осторожность Саймона Кросса неоднократно находила отклик в наших исследованиях, когда ИИ, казалось, вторгался в духовную сферу. Это отчасти из-за уроков социальных сетей, а отчасти потому, что все, с кем мы говорили, предполагали, что существует чёткая граница между человечеством и технологией.
Один раввин напомнил нам, что «ИИ-бот не может держать кого-то за руку в конце его жизни». Буддийский лидер подчеркнул неспособность робота «испытывать страдание».
Один католический епископ заявил, что изобретательная имитация человеческого поведения не свидетельствует о подлинной внутренней жизни. Другой опрошенный квакер прекрасно резюмировал амбивалентность, заявив, что ИИ социально полезен во многих отношениях, но «также, похоже, оказывает самое сильное давление на социальные системы, занятость и окружающую среду таким образом, который кажется крайне контрпродуктивным в данный момент».
Нужно также учитывать логику прибыли. Один раввин предположил, что развитие ИИ часто мотивировано этикой прибыли, а не видением общего блага, и что логика собственности и прибыли вписана в код этой технологии:
Рука программиста, разработавшего алгоритм, создана для получения прибыли. Она не создана для обеспечения социальной сплочённости […] Код создан для питания капитализма.
«Тревожные последствия»
Несколько опрошенных выразили обеспокоенность способностью генеративного ИИ точно передавать сложные теологические концепции и учения. Религиозные чат-боты могли бы неожиданным образом объединять разрозненные идеи, ценности, верования и священные тексты. Они могли бы даже начать создавать совершенно новые системы верований. Как объяснил один методистский лидер:
Знаете, когда ИИ говорит от имени Бога, если он галлюцинирует религиозный текст, это одно. Но он мог бы также неправильно интерпретировать или неправильно применять религиозный текст таким образом, что это имело бы действительно тревожные последствия.
Другие опрошенные говорили о своей обеспокоенности своего рода генеративной гибридностью, когда разрозненные идеи, ценности, верования или священные тексты сливаются, чтобы создать нечто новое.
Очень реалистичный характер контента, производимого ИИ, в мире, всё более насыщенном социальными сетями 24 часа в сутки, заставил многих опрошенных говорить о растущей трудности отличать правду от лжи в интернете.
Большинство из них также считали, что если эта «дезориентация с помощью ИИ» сочетается с распадом личных отношений, растущей зависимостью от автоматизации, социальной фрагментацией и радикализацией, это может привести к росту психических расстройств.
Это может произойти, когда люди теряются в тумане бреда ИИ и рискуют погрузиться в психоз GPT в поисках нарративов, предлагающих определённость. Один межрелигиозный лидер выразил эту мысль:
Социально консервативная религиозная вера даёт вам определённость в очень неопределённом мире, и для определённого типа молодых людей это то, что они ищут: определённость.
Перед лицом этих мрачных перспектив, какой путь выбрать?
Первая энциклика папы Льва в некотором роде помогает, устанавливая моральные рамки, позволяющие человечеству решать задачи ИИ и формировать его будущее, «разоружая» эту технологию и «не позволяя ей доминировать над человечеством». Она прослеживает корни социального учения Церкви и подчёркивает важность человеческого достоинства, солидарности, истины, сострадания, любви и общего блага.
Правительства могли бы, возможно, вдохновиться ею, приняв по-настоящему смелый подход к проведению публичных дебатов и обузданию технологических гигантов.
В таком будущем признавалась бы важность вопросов общественного здравоохранения, связанных с технологиями, приложения тестировались бы на безопасность и надёжность перед выпуском на рынок, контент, созданный ИИ, был бы чётко обозначен, а политики и общественность были бы гораздо более осведомлены о том, что такое генеративный ИИ и его недостатки.
Информаторы, работающие в секторе, окружённом секретностью и соглашениями о конфиденциальности, также должны быть защищены и иметь средства для разоблачения неэтичных или незаконных практик.
Мы также считаем, что некоммерческий сектор и религиозные общины должны быть проконсультированы и вовлечены в обсуждения, формирующие государственную политику.
Кроме того, можно было бы рассмотреть суверенные и общественные системы ИИ, предназначенные для образования и развлечения, чтобы избежать экстрактивной логики коммерческих технологий.
(...)
The Conversation также запросила комментарий у GitaGPT, но на момент публикации ответа не получила.
Адам Джеймс Фентон, Assistant Professor, Centre for Peace and Security, Coventry University и Крис Шаннахан, Associate Professor in Political Theology, Coventry University
Эта статья перепубликована из The Conversation под лицензией Creative Commons. Читать оригинальную статью.