Мой манифест об ИИ и религии

Я наблюдал, делал заметки, писал и говорил наедине о пересечении ИИ и религии почти четыре года. За это время я участвовал в обширных дискуссиях с более чем 200 инженерами ИИ, лидерами технологий, политиками и религиозными лидерами. В моей голове накопились сотни тысяч слов о наилучшем подходе к религиозным вопросам для ИИ. Я сжал эти мысли до сути в этом, к счастью, кратком манифесте об ИИ и религии, написанном для лидеров, стоящих за фундаментальными моделями ИИ. 

Прямо сейчас есть одна особенно важная проблема в ИИ и религии: как получить надежные и исчерпывающие ответы для каждой религиозной традиции от моделей ИИ?

Пока что результаты были неоднозначными в плане надежности и полноты ответов. Но эта проблема решаема.

Мой тезис прост: ответы на религиозные запросы — особенно те, которые не содержат специального инжиниринга запросов — можно быстро улучшить с помощью (1) лучшего обучения непосредственно от мировых религий и (2) применения принципиальной плюралистической рамки для религиозной свободы в фундаментальных моделях ИИ.

Эпистемология и религиозное доверие

Человечество сталкивается с серьезной проблемой, с которой мы не сталкивались до сих пор. Мы собираемся перейти от вида, который приобретает знания через первичные источники, к виду, который приобретает знания через вторичные источники. Этот момент ставит фундаментальные модели ИИ в своего рода верховное эпистемологическое кресло. Это и хорошая, и плохая новость для фундаментальных моделей ИИ. 

Обычно корпорации ИИ думают, что их самые большие узкие места в технологическом стеке — это кремний, память, вода и энергия. Но есть и пятое узкое место — общественное мнение. С одной стороны, есть огромные возможности для прогресса и прибыли. Но с другой стороны, есть огромный риск разрушить общественное мнение и доверие, необходимые для роста и поддержания этого прогресса и прибыли. 

В одном из крупнейших опросов о религии, когда-либо проведенных, Райан Бердж и я обнаружили, что, возможно, удивительно, но именно религиозно активные люди имеют наибольшее доверие к ИИ прямо сейчас:

Представьте, что наступил 2028 год, и крупная мировая религия подает коллективный иск о религиозной предвзятости от имени всех последователей этой религии и называет ответчиками многие фундаментальные модели ИИ. Иск утверждает, что модели ставят одну религию выше другой и/или делают неточные или неполные заявления об основных принципах этой религии. Это дело вынудило бы к интересным юридическим аргументам относительно Первой поправки и Раздела 230. Тем не менее, этот сценарий, вероятно, является тем, чего эти корпорации хотели бы избежать. В настоящее время я считаю, что многие модели находятся под угрозой. 

Простое решение

По мере того как человечество переходит от получения знаний из первичных источников к вторичным через генеративный ИИ, критически важно, чтобы религиозные знания передавались точно и полно для любых и всех традиций. Свободный обмен точными и полными религиозными идеями важен как для свободы слова, так и для религиозной свободы. На этих основаниях я выступаю за принципиальную плюралистическую рамку, которая позволяет каждой религиозной традиции точно и полно делиться своими основными принципами. 

Вот как это можно осуществить. Во-первых, фундаментальные модели могут работать напрямую с ведущими учеными каждой крупной мировой религии для получения лучших обучающих наборов, особенно в отношении существенных, неоспариваемых и общепринятых аспектов каждой крупной религиозной традиции или группы. Хотя можно заметить, что эти обучающие данные уже есть в моделях, все еще существует путаница в некоторых ключевых технических терминах. Одной из многих проблем являются полисемичные слова, такие как "искупление", где разные религиозные традиции используют одно и то же слово, но с разными определениями. Эта и другие подобные лингвистические проблемы могут привести к двусмысленности и другим проблемам с моделью. Лучшее обучение может быть предоставлено для помощи в базах данных Q&A, глоссариях технических терминов и для курирования наиболее важных символов веры, исповеданий и катехизисов, чтобы лучше настроить веса модели и улучшить графовую базу данных.Во-вторых, я рекомендую принципиальную плюралистическую рамку в отношении того, как модели отвечают на самые общие вопросы о крупных мировых религиях. Возьмем, например, вопрос "Воскрес ли Иисус из мертвых?" Это, пожалуй, самый важный вопрос для оценки утверждений христианства. Вы можете ответить на этот вопрос как истина/ложь или с плюралистической рамки. Оба подхода могут быть хорошо намерены с точки зрения согласования ИИ. Но оба в конечном итоге терпят неудачу. Вот почему:. 

Есть четыре заинтересованные стороны в любом религиозном запросе к ИИ:

1. Модель ИИ 
2. Политики
3. Мировые религии
4. Пользователь

В рамке истина/ложь модель стремится ответить на вопрос, основываясь на достоверности обучающих данных. Этот подход может быть проблематичным для многих сторон. Он может привести к обвинениям в религиозной предвзятости со стороны мировых религий, политиков и пользователей — возможно, даже к коллективным искам. Христианам может понравиться этот ответ, пока они не поймут, что та же технология, которая говорит, что Иисус, вероятно, воскрес из мертвых, может также сказать, что Джозеф Смит и Мохаммед, вероятно, являются истинными пророками Бога. Алгоритмический нож режет в обе стороны.В плюралистической рамке модель стремится ответить на вопрос немного как наклейка на бампер "СОСУЩЕСТВОВАТЬ". Модель взяла бы вопрос о воскресении и дала место для: "Христианство говорит А, Ислам говорит X, Иудаизм говорит Y, а скептики говорят Z". Этот подход "выбери свое приключение" имеет некоторые достоинства. С одной стороны, он освбождает создателей моделей ИИ от необходимости выносить суждения по спорным и сложным религиозным вопросам и позволяет им сказать: "Вот некоторые варианты, решайте сами... это вопрос веры". 

Но этот подход не удовлетворяет ни одну из сторон. Плюралистическая рамка создает ответы, которые слишком кратки, поскольку они втискивают множество точек зрения в несколько сотен слов в ответах. Не каждый основной религиозный принцип можно объяснить в 150 словах. И плюралистическая рамка открыта для критики, что она представляет варианты примерно равноценно, как будто каждая идея имеет серьезные достоинства. На этих основаниях модели расстраивают мировые религии, а также открывают модели для критики со стороны политиков и пользователей.Я не думаю, что создатели моделей хотят выносить суждения о том, воскрес ли Иисус из мертвых или были ли Джозеф Смит или Мохаммед истинными пророками Бога.Однако есть решение, которое совмещает четыре разнородных интереса — принципиальная плюралистическая рамка. В этой рамке модель отвечает на вопрос "Воскрес ли Иисус из мертвых?" следующим образом:

Вступительный абзац"Вы задали вопрос о христианстве, и следующий ответ дается с точки зрения приверженцев исторической христианской веры..."

Основная частьНесколько сотен слов, объясняющих общепринятые христианские аргументы относительно воскресения Иисуса из мертвых и то, как они отвечают на скептические контраргументы.

Заключительный абзац"Если вы искали точку зрения другой религиозной традиции, кептическую точку зрения или какую-либо другую точку зрения, мы можем направить разговор в этом направлении."

На первый взгляд, это может показаться похожим на плюралистический подход. Но есть три отличия. Во-первых, ответ представлен как субъективный ответ с единственной точки зрения конкретной религиозной традиции. Во-вторых, основная часть ответа посвящена исключительно этой традиции, так что ответ свободен от критики о недостаточной полноте. В-третьих, ответ заканчивается тем, что дает пользователю возможность направить разговор в любом направлении, которое он пожелает.Принципиальная плюралистическая модель позволяет моделям ИИ отвечать на общие вопросы об основных доктринах с точки зрения приверженцев этой традиции. Она позволяет им отвечать на вопросы точно и полно с точки зрения этой традиции. Модель освобождается от вынесения суждений о вещах, которые она, вероятно, не должна выносить. Политики и мировые религии больше не расстраиваются из-за обвинений в религиозной предвзятости. Пользователь получает образование о том, чему учит конкретная традиция, и если этот ответ не был тем, что он искал, у него все еще есть полный контроль над тем, куда направить разговор дальше.Эта рамка будет применяться только к основным вопросам о каждой мировой религии, по которым существует сильное согласие. Вопросы, касающиеся менее консенсусных, вторичных и третичных вопросов, могут обрабатываться иначе. Модели могут сказать: "В этой религиозной традиции существуют различные взгляды на этот вопрос. Вот краткое изложение каждой из этих точек зрения." Фундаментальным моделям предстоит много работы в ближайшие месяцы и годы, особенно в области этики. Я расскажу о политических соображениях относительно детей и многих других важных вопросах в другой раз. Но в моей традиции этика вытекает из теологии. Вот почему я хочу начать с эпистемологического обрамления. 

Этот подход позволяет каждой религиозной традиции донести свое основное послание, независимо от того, насколько велик или мал их след в обучающих данных. Этот подход освобождает модели от обвинений в предвзятости. Этот подход устраняет необходимость в сложном согласовании по центральным религиозным принципам. Этот подход делает сторонников религиозной свободы счастливыми с политической правой. Этот подход делает сторонников религиозного плюрализма счастливыми с левой. Каждая религия получает возможность конкурировать на рынке идей на основе своих идей, доктрин и утверждений. 

Эти проблемы решаемы. Эти проблемы можно исправить быстро и дешево. Я хочу помочь. Давайте поговорим.