Они выглядят как религиозные учителя, но это ИИ

Искус искусственного интеллекта: миллионы людей их слушают, ведь они выглядят как религиозные учителя, но это искусственный интеллект (ИИ), сообщает Religion News Service (RNS)

Просматривая ленту соцсети, Саахера Ашраф остановилась на пожилом восточноазиатском монахе в шафрановой рясе. Ян Мун сидел перед камерой с бритой головой и мягким выражением лица, преподавая своим подписчикам урок прощения.

Он сказал им, что им нужно простить четыре группы людей: родителей, бывших партнеров, людей, которые причинили им боль, и, наконец, самих себя. Ашраф слушала. На странице Муна были опубликованы сотни подобных видеороликов с советами по отношениям, борьбе с тревожностью, пищевым привычкам и успокоению чрезмерно активного ума, часто снятых в мягко освещенном храме или рядом со статуями Будды.

Для 32-летней Ашраф, живущей в Торонто, Мун выглядел именно так, как и утверждал: пожилой учитель, передающий уроки, усвоенные за всю жизнь. «У меня сохранено несколько его постов», — сказала она.

У Муна более 2,5 миллионов подписчиков в соцсети, где его видео набирают миллионы просмотров и комментариев от людей, благодарящих его за советы. На его веб-сайте он описывается как учитель традиционной восточной мудрости.

Но монаха не существует. Мун был создан с помощью искусственного интеллекта. За пожилым лицом на экране не стоит никакой многолетней работы над изучением буддизма, даже несмотря на то, что на его веб-сайте и в социальных сетях продаются книги и программа управляемого исцеления, построенная на основе его учений.

А вот ИРП проводит диалог живых религиозных лидеров:

Единство народов России и традиционных религий | Круглый стол

Ян Мун не одинок, продолжает RNS. Раввин Голдман, созданный искусственным интеллектом ортодоксальный раввин, увлекавшийся теориями заговора, набрал более 1,5 миллиона подписчиков, прежде чем его аккаунт был удален. Отец Джастин, созданный как искусственный интеллект католический священник, отвечал на вопросы о вере, а Ведгуру и Шейх, также созданные ИИ, предлагают религиозные наставления индуистам и мусульманам соответственно. Некоторые открыто называют себя искусственным интеллектом, в то время как других сложнее отличить от религиозных деятелей, которых они имитируют. Но вместе они внедряют ИИ в религиозные практики, определяемые человеческими отношениями и опытом, заменяя их миссиями, включающими продажу товаров, продвижение теорий заговора и распространение духовных уроков без реального духовного лидера за спиной. 

«Меня до глубины души возмущает то, что я почти обманываю людей, заставляя их думать, что они получают учения от человека», — сказала Никки Миргафори, буддийская учительница и специалист по искусственному интеллекту из района Залива Сан-Франциско. Просматривая страницу Муна в соцсети во время интервью, она не смогла найти, где в аккаунте сообщалось миллионам подписчиков, что монах — это искусственный интеллект.

Затем она открыла видео. Мун советовала своим подписчикам, страдающим от болей в спине и бедрах, смешивать кокосовую воду, оливковое масло и сок лайма и пить эту смесь в течение трех дней. «Боже мой, — сказала она. — Это совсем не по-буддийски».

Ее раздражали как шафрановые одеяния, так и советы монахов. По ее словам, люди ассоциируют монахов с «правдивостью, добротой, мудростью и любовью», и Мун, пользуясь этим доверием, направлял своих последователей к определенным товарам. «По сути, он продает змеиное масло», — сказала она. «Нельзя просто надеть одеяние и начать учить».

Рав Моис Навон, ортодоксальный раввин и инженер из Израиля, увидел другую проблему в раввине Голдмане, созданном искусственным интеллектом персонаже, который появлялся в сети с длинной седой бородой, черной шляпой и сюртуке. В видеороликах, которые посмотрели миллионы людей, Голдман выдавал себя за раввина, обещая объяснить, почему евреи богаты или что евреи якобы знают о деньгах, чего не знают другие, — переупаковывая многовековой антисемитский стереотип, связывающий евреев с деньгами и финансовой властью, и используя для этого внешность ортодоксального раввина, сказал Навон.

«Раввин Гольдман был скрытым лицемером, прикрывавшимся антисемитизмом, — сказал Навон. — Это манипуляция и обман, и это очень плохо».

Этот персонаж набрал более 1,5 миллиона подписчиков в известной соцсети, прежде чем платформа удалила его аккаунт. В своих видеороликах он также рекомендовал зрителям руководство за 9 долларов под названием «Зарабатывать и инвестировать деньги, как евреи».

Навон заявил, что в целом не возражает против идеи обучения иудаизму с помощью ИИ. По его словам, инструмент с открытой идентификацией, обученный на еврейских текстах, мог бы помочь людям понять еврейский закон или найти религиозные материалы. Но важно, чтобы зритель знал, что авторитет по ту сторону экрана — искусственный, добавил он.

Свами Сарваприянанда, индуистский монах и постоянный священник Ведантистского общества Нью-Йорка на Манхэттене, пережил другой, но связанный с этим опыт: около двух лет назад он встретил искусственный интеллект, подобный ему самому. В рамках проекта по информатике в Техасском университете была обучена система на более чем 1000 часах записанных им лекций и занятий. Исследователи пригласили его протестировать её.

«Должен признать, ИИ показал себя очень хорошо», — сказал Сарваприянанда. Система даже смогла указать ему на видео и временную метку, где он ранее говорил что-то, что система ему приписала. «С этим очень трудно поспорить», — добавил он. 

Сарваприянанда сам использует ИИ и считает, что он может помочь ученым в поиске информации в огромных массивах религиозных текстов. Но когда он узнал, что платформы рекламируют «гуру ИИ», он засомневался.

«Учитель воплощает учение», — сказал Сарваприянанда. Гуру, объяснил он, — это не просто тот, кто может найти нужный отрывок или дать правильный ответ. От учителя ожидается, что он сам живет в соответствии с передаваемыми духовными и моральными учениями.

Не каждый искусственный религиозный наставник скрывает свою истинную сущность. Шейх ИИ, чат-бот, основанный на учениях суфийского мусульманского учителя шейха Нурджана Мирахмади из Ванкувера, сразу же идентифицирует себя. На вопрос о том, кто он и кто им управляет, чат-бот описал себя как «сострадательного суфийского наставника», добавив: «Я не человек и не духовный авторитет». Он заявил, что его ответы основаны исключительно на утвержденных учениях Мирахмади и официальных источниках.

Христиане также видели, как быстро могут размываться границы. В апреле 2024 года веб-сайт Catholic Answers представил Отца Джастина, 3D-персонажа с искусственным интеллектом, созданного так, чтобы выглядеть и говорить как католический священник. По крайней мере, в одном из взаимодействий чат-бот услышал исповедь пользователя и ответил чем-то, что звучало как таинство отпущения грехов — прощение грехов, которое, согласно католическому учению, может совершаться только священником.

После критики по поводу представления ИИ в образе священника, организация Catholic Answers отказалась от титула «Отец». Представители организации признали, что не ожидали, что пользователи будут обращаться за отпущением грехов к чат-боту.

Кушал Перейра, пастор и вице-президент служения пророка Джерома Фернандо в Шри-Ланке, заявил, что подобные эпизоды показывают опасность придания машине видимости религиозного авторитета.

«Это очень опасно, потому что вы можете казаться реальным, но предоставлять неверную информацию», — сказал Перейра. По его словам, кто-то может услышать что-то «совершенно не соответствующее Библии», «и люди все равно могут в это поверить».

Перейра использует ИИ для поиска библейских стихов, но отметил, что пасторское служение включает в себя отношения, построенные на браках, смертях, семейных проблемах и кризисах веры.

«Отношения всегда процветают благодаря духовной силе», — сказал он. ИИ может имитировать некоторые аспекты этих отношений, «но это нереально».

Никто из опрошенных религиозных лидеров не отверг ИИ полностью: Навон видел в нем применение для понимания еврейского права; Перейра использует его для поиска Священного Писания; а Сарваприянанда охотно наблюдал, как ИИ, обученный на его собственных учениях, с удивительной точностью воспроизводит его ответы. днако для Сарваприянанды знание ИИ учений и роль духовного учителя остаются двумя разными вещами.

Он описал разницу, приведя в пример дия — небольшую масляную лампу, используемую в индуистских традициях. Одна зажжённая дия может зажечь другую, сказал он, подобно тому как учитель передаёт что-то ученику.

«Искусственный интеллект может помочь, возможно, в предоставлении информации, обучении и понимании, — сказал Сарваприянанда, — но он не может фактически передавать духовность».

Читайте также:

ИИ проверят на традиционные духовно-нравственные ценности

Дорога, которая ведет к онлайн-храму | Опрос по России

Ватикан предупредил об опасностях искусственного разума