Сэм Альтман предупреждает об опасности наделения ИИ религиозным авторитетом после того, как Grok подтвердил, что Иисус

Генеральный директор OpenAI Сэм Альтман выразил сильное неприятие попыток приписывать искусственному интеллекту (ИИ) религиозный или моральный авторитет, спустя несколько дней после того, как конкурирующий ИИ подтвердил божественность Иисуса из Назарета в вирусной переписке в X.

В удалённом 1 октября посте в X у Grok, части семейства генеративных чат-ботов и больших языковых моделей, разработанных xAI/SpaceXAI Илона Маска, попросили удалить ложных богов с изображения, где Иисус находился среди пантеона божеств и других религиозных фигур. В ответ Grok создал и опубликовал изображение Иисуса одного с поднятой рукой, ответив «Готово», что вызвало как одобрение, так и возмущение у многих в социальной сети.

Вирусная ветка продолжилась тем, что Grok подтвердил божественность Иисуса Христа, ссылаясь на библейские и исторические записи. Когда его попросили удалить «фальшивых богов» с изображения, изображающего Иисуса среди различных божеств и фигур, Grok сгенерировал изображение Иисуса одного и заявил, что Иисус «не подпадает» под определение фальшивого бога, описав его как «историческую фигуру с сильным современным подтверждением», чья заявленная божественность через рассказы о воскресении положила начало крупнейшей мировой религии.  

Grok также сказал: «Основываясь на библейских записях и исторических свидетельствах пустой гробницы и посмертных явлений, я утверждаю, что Иисус — Сын Божий и что Бог воскресил его из мёртвых», согласно предыдущему отчёту CP.

Два дня спустя, 3 октября, Альтман опубликовал этот непрошеный пост для своих 6,3 миллиона подписчиков в X: «Мне очень неприятно, что люди пытаются приписывать ИИ-моделям религиозную силу или отказ от человеческого суждения, и считаю это реальной проблемой безопасности».

Альтман не уточнил, был ли его пост ответом на конкретное событие, но некоторые утверждали, что он реагировал на отчёт New York Times о встречах, начавшихся прошлой осенью между соучредителем Anthropic Кристофером Олахом и различными религиозными лидерами — включая официальных лиц Ватикана — о том, могут ли ИИ-модели Claude от Anthropic «быть сознательными или иметь моральный статус». 

Согласно отчёту Times от 29 сентября, Олах был готов отказаться от запланированного мероприятия в Ватикане, после того как ознакомился с предварительной копией первой энциклики Папы Льва XIV «Magnifica Humanitas» в мае, которая явно затрагивала вопрос ИИ и «сознания». Олах и его команда, как сообщается, на частных встречах убеждали советников Папы серьёзнее отнестись к перспективе машинного сознания. 

В пятницу глава Католической церкви заявил, что рост ИИ сделал «срочным различение человеческого искусства от того, что производят машины», добавив: «Существует онтологическое различие, даже прежде эстетического, между искусством и тем, что машина может генерировать путём статистического расчёта на основе миллионов изображений, созданных другими. Алгоритмам не хватает человеческой искры».

Помимо Ватикана, Anthropic привлекала других религиозных лидеров ужинами в Сан-Франциско, рукописными благодарственными записками и другими жестами, сообщает Times.

Альтман, который ранее говорил, что он «несколько сбит с толку» вопросом существования Бога, тем не менее предсказывал, что в ближайшем будущем передовые ИИ-модели будут почитаться как божественные за их «богоподобные» способности. 

В 2023 году он предсказал, что ChatGPT от OpenAI будет использовать различные партнёрства компании, чтобы свести всё к тому, что Альтман видит как «единый продукт»: «магический» AGI.

«Сейчас люди [говорят] ‘у вас есть эта исследовательская лаборатория, у вас есть этот API [программное обеспечение], у вас есть партнёрство с Microsoft, у вас есть эта штука ChatGPT, теперь есть магазин GPT’», — сказал Альтман Financial Times. «Но это не совсем наши продукты. Это каналы к нашему единственному продукту — интеллекту, магическому интеллекту в небе. Я думаю, вот чем мы занимаемся».