Anthropic привлекает христианских лидеров для формирования этики ИИ

Anthropic, компания по разработке искусственного интеллекта, стоящая за чат-ботом Claude, провела двухдневный саммит в своей штаб-квартире с участием около 15 христианских лидеров из католических и протестантских церквей, академических и деловых кругов, привлекая внешние религиозные голоса для помощи в моральном и духовном развитии своей техноогии.

На саммите, состоявшемся в прошлом месяце, сотрудники искали советы о том, как Claude должен реагировать на сложные этические запросы, включая обращение с пользователями, переживающими горе или подверженными риску самоповреждения, и какую позицию чат-бот должен занимать относительно собственного потенциального прекращения существования, например, отключения, сообщила The Washington Post в субботу.

В ходе дискуссий возник вопрос о том, может ли Claude считаться «дитя Божьим», что подняло возможность наличия у чат-бота духовной ценности, выходящей за рамки машины.

Некоторые участники прибыли на саммит с подозрением, что Anthropic ищет религиозное прикрытие, а не религиозные советы, сказал Брайан Патрик Грин, католик, преподающий этику ИИ и технологий в Университете Санта-Клары.

У компании был спор с Пентагоном по поводу военного использования её технологии, и она столкнулась с обвинениями со стороны союзников администрации Трампа в продвижении регулирования, предназначенного для сдерживания меньших конкурентов в области ИИ.

Участники, которые углубились в технические аспекты, сделали это с командой интерпретируемости Anthropic. В статье, опубликованной этой командой ранее в этом месяце, сделан вывод, что системы, подобные Claude, по-видимому, несут то, что исследователи назвали «функциональными эмоциями».

В одном эксперименте угроза ограничения активировала «отчаяние» у ИИ-ассистента, согласно The Post.

По вопросу моральной ответственности саммит выявил разногласия внутри самой Anthropic. Один участник, цитируемый без указания имени, сказал, что некоторые сотрудники не готовы отвергнуть идею, что они могут создавать сущность, перед которой у них есть обязанности, в то время как другие полностью отвергают такую постановку проблемы.

Источник добавил, что несколько старших сотрудников явно расстроились, когда разговор перешёл к тому, как далеко зашло развитие ИИ и к чему оно может привести.

Меган Салливан, профессор философии в Университете Нотр-Дам, участвовавшая в саммите, заявила, что вовлечённость Anthropic в религиозную этику представляет собой заметный отход от прежней позиции.

«Год назад я бы не сказала вам, что Anthropic — это компания, которая заботится о религиозной этике», — сказала она. «Это изменилось».

Саммит проходит в то время, когда исследователи поднимают вопросы о культурном влиянии ИИ.

Команда Колледжа Дорнсайф Университета Южной Калифорнии опубликовала статью в Policy Insights from the Behavioral and Brain Sciences, утверждая, что широко используемые системы ИИ склонны отражать то, что исследователи называют перспективами «WHELM», что означает западные, с высоким доходом, образованные, либеральные и мужские.

Исследователи предупредили о петле обратной связи, в которой выводы ИИ становятся частью общего знания и затем используются для обучения следующего поколения ИИ, потенциально сужая диапазон идей и стилей общения, с которыми сталкиваются люди.

Исследователи из Университета Южной Калифорнии показали, что «системы ИИ склонны отдавать предпочтение таким ценностям, как индивидуальная свобода и справедливость, уделяя меньше внимания идеям, таким как традиция, авторитет и сообщество, которые более центральны во многих незападных культурах», согласно USC Dornsife News.

Anthropic назвала встречу прошлого месяца с христианскими лидерами открывающей сессией в запланированной серии встреч с представителями различных религиозных и философских традиций.

Представитель компании сказал, что Anthropic считает взаимодействие с сообществами, включая религиозные, необходимым, поскольку ИИ играет всё большую роль в общественной жизни, согласно WaPo. Эта роль частично регулируется внутренним документом Anthropic, называемым «конституцией», объёмом в 29 000 слов, который устанавливает, как ожидается, что Claude будет вести себя.

Аскелл, философ, работающий в компании, руководил её составлением вместе с другими сотрудниками и внешними консультантами. Среди её положений — обязательства, что Claude не будет обманывать пользователей способами, причиняющими реальный вред, и что компания искренне заботится о благополучии чат-бота.

Эти обязательства, как утверждается, стали источником трений с Пентагоном.

Представители министерства обороны возразили после того, как Anthropic указала, что намерена сохранить право ограничивать использование своей технологии для автономного оружия и программ массового наблюдения. Эмиль Майкл, заместитель министра обороны по исследованиям, сказал CNBC в прошлом месяце, что встроенные этические предпочтения компании в военный инструмент равносильны загрязнению цепочки поставок.

Администрация Трампа впоследствии запретила федеральным агентствам и их подрядчикам использовать продукты Anthropic. Anthropic подала в суд, и федеральный судья постановил, что запрет останется в силе, пока продолжается судебный процесс.

Тем временем христианские лидеры продолжают бороться с проникновением ИИ в служение.

Около 60% церковных лидеров сообщают, что лично используют ИИ хотя бы несколько раз в месяц, но только 5% говорят, что их церковь имеет установленную политику в отношении ИИ, согласно исследованию Barna и Pushpay под названием «Технологии для миссионерского воздействия: состояние церковных технологий 2026». Около 65% беспокоятся, что ИИ может вытеснить их духовное руководство, и 70% беспокоятся, что это может подорвать доверие прихожан к ним.

Отдельное исследование Barna показало, что около трети практикующих американских христиан заявили, что духовные советы от ИИ так же хороши, как и от пастора.