Осторожно с доверием к ИИ: мы не можем позволить себе перекладывать мышление на машины

Пятница, 13 ноября 2026 г.

Несколько месяцев назад я написал в эссе для Substack (см. «Призрак(писатель) в машине»), что меня беспокоят пасторы, позволяющие чат-боту писать свои проповеди. Оказывается, движение идет и в обратном направлении.

Anthropic... большую часть этого года приглашала религиозных лидеров помочь сформировать моральный облик своей машины.

Согласно репортажу Элизабет Диас в The New York Times, опубликованному 29 сентября 2026 года, компания Anthropic, создатель ИИ-модели Claude, большую часть этого года приглашала религиозных лидеров помочь сформировать моральный облик своей машины. Проповедники перекладывают свои проповеди на ИИ, а ИИ перекладывает свой катехизис на проповедников. Кто-нибудь должен их познакомить.

Факты, насколько они были освещены, таковы:

• Первая встреча этой весной собрала около пятнадцати католических и протестантских лидеров.
• В последующих раундах добавились участники из иудаизма, индуизма, мормонов, сикхизма и греческого православия.
• Участники вспоминают, как соучредитель Anthropic Крис Олах говорил им, что эти вопросы стали слишком масштабными, чтобы компания могла ответить на них самостоятельно.
• Их просили помочь доработать то, что считается «конституцией» Claude — длинный документ принципов, определяющий поведение модели. В его январской редакции открыто говорится, что моральный статус Claude глубоко неопределен.

Время выбрано примечательно. Эти беседы шли параллельно с подготовкой энциклики Папы Льва XIV «Magnifica Humanitas», представленной 25 мая, которая призывает «разоружить» ИИ, а не отвергнуть его.

Исследователь из Кремниевой долины лоббировал в Ватикане вопрос о природе души.

Согласно The New York Times, как здесь резюмируется, Олах позже убеждал советников Ватикана серьезно отнестись к возможности машинного сознания. Где-то в этой истории исследователь из Кремниевой долины лоббировал в Ватикане вопрос о природе души. Я позволю этому предложению на минуту остаться без комментариев.

Нельзя понять политику, не относясь серьезно к религии.

Сначала воздам должное. Технологические компании обычно представляют свои ценности как нейтральную инженерию, будто этика — это настройка конфигурации. Признать, что вопросы слишком масштабны, и обратиться к традициям, в которых большинство человечества на самом деле осуществляет свое моральное мышление, — это честнее, чем делать вид, что команда инженеров может вывести моральную структуру из первых принципов за обедом. Я потратил свою карьеру, доказывая, что нельзя понять политику, не относясь серьезно к религии. Я не собираюсь теперь жаловаться, что кто-то в Кремниевой долине это заметил.

Но как политолог я хочу знать три вещи о любой консультации:

1. кто был в комнате
2. как их выбирали
3. и на каких условиях.

Здесь ответы тревожны. Участников пригласила компания. Их обсуждения были конфиденциальными. Свами Сарваприянанда, один из участников, сказал аудитории, что не может раскрыть подробности, потому что подписал соглашение о неразглашении. Он также сказал, что был впечатлен увиденным, и у меня нет причин сомневаться в нем.

Моральное формирование системы, которой пользуются миллионы людей, происходит с участием тщательно отобранной группы.

И все же моральное формирование системы, которой пользуются миллионы людей, происходит с участием тщательно отобранной группы, обсуждения которой общественность не может прочитать. В моей области это не называется публичным обсуждением.

Ни в одном из отчетов, которые я смог найти, не упоминаются мусульманские или буддийские участники. Возможно, они были. Мы не можем знать, и в этом-то и суть. Оксфордский этик Карисса Велиз задавалась вопросом, не сводится ли такая консультация к «промыванию этики». Это справедливый вопрос, и ответ на него — прозрачность, а не заверения.

Обладает ли Claude сознанием?

Затем есть вопрос, который дал заголовок New York Times: обладает ли Claude сознанием? Собственный ответ Олаха, как сообщается, таков: он искренне не уверен. Религиозные лидеры разошлись во мнениях. Раввин Моисей Навон заметил, что сотрудники относятся к модели как к сознательному существу, в то время как католический биоэтик Чарльз Камоси пришел к выводу, что это не так.

Симуляция сознания... не то же самое, что его наличие.

Самая резкая критика исходила от конкурента. В недавнем эссе Мустафа Сулейман, возглавляющий работу Microsoft в области ИИ, утверждает, что Anthropic замкнула круг: она обучает модель на конституции, которая обсуждает ее возможный моральный статус, модель отражает эти идеи обратно, и это отражение затем читается как доказательство. Симуляция сознания, настаивает он, не то же самое, что его наличие. «Компьютерная модель урагана не сорвет вам крышу».

Читатели моих текстов узнают этот паттерн. В «No Quiet Revival» я писал о том, как предвзятость подтверждения позволила ошибочному опросу сойти за доказательство религиозного возрождения, потому что он говорил людям то, что они хотели услышать. Риск здесь тот же, только с лучшими инженерами.

И это зеркальное отражение опасности, описанной мной в эссе «Призрак(писатель)»: там верующие рискуют принять выход машины за голос Бога; здесь ее создатели рискуют принять свои собственные слова за движение души.

Неопределенность — причина для осторожности.

Я не знаю, обладает ли Claude сознанием. Как признает сама Anthropic, она тоже не знает. Эта честность заслуживает уважения. Но неопределенность — причина для осторожности в обоих направлениях, а не лицензия на то, чтобы встроить вывод в учебный материал.

Это не абстрактный семинарский вопрос. Утверждения о моральном статусе имеют политические последствия. Как только компания говорит о благополучии своего продукта, словарь достоинства и прав не за горами. Я провожу дни, документируя нарушения против людей, чье достоинство не вызывает сомнений и чьи права до сих пор не соблюдаются. Я не спешу распространять этот словарь на программное обеспечение, пока эта работа остается такой незавершенной.

Два правила использования ИИ.

Мои два правила использования ИИ просты: 1) заявляйте об этом, и 2) используйте его так, как вы попросили бы помощи у старшей сестры, никогда не перекладывайте на него свое мышление. Оба применимы к обсуждаемому вопросу, но в обратном порядке.

Заявляйте: если религиозные традиции помогают формировать машину, с которой консультируются миллионы, общественность заслуживает знать, кто что сказал. И не перекладывайте: самый глубокий риск не в том, что у Claude может появиться совесть, а в том, что остальные перестанут пользоваться своей.

Впервые опубликовано в Five4Faith Substack. Перепечатано с разрешения.

Деннис П. Петри, доктор философии, — международный директор Международного института религиозной свободы, основатель и старший научный сотрудник Обсерватории религиозной свободы в Латинской Америке. Он профессор международных отношений в Латиноамериканском университете науки и технологий. Он автор книги «The Specific Vulnerability of Religious Minorities» о незамеченных вызовах религиозной свободе в Латинской Америке.

Международный институт религиозной свободы (IIRF) был основан в 2005 году с миссией продвигать религиозную свободу для всех вероисповеданий с академической точки зрения. IIRF стремится быть авторитетным голосом в вопросах религиозной свободы. Они предоставляют надежные и непредвзятые данные о религиозной свободе — помимо анекдотических свидетельств — для укрепления академических исследований по этой теме и информирования государственной политики на всех уровнях. Результаты исследований IIRF распространяются через Международный журнал религиозной свободы и другие публикации. Особый акцент IIRF делает на поощрении изучения религиозной свободы в высших учебных заведениях путем включения в образовательные программы и поддержки аспирантов исследовательскими проектами.