Папа Лев XIV предостерегает от неумеренного использования ИИ и излишне 'привязчивых' чат-ботов

Папа Лев XIV предостерегает от неумеренного использования искусственного интеллекта в сообщении, произнесенном в Ватикане. Папа подчеркивает риски для человечества, включая конфиденциальность и эмоциональную манипуляцию. Он призывает к глобальному сотрудничеству для управления воздействием цифровых технологий на общество.

Папа Лев XIV стал частью растущего числа влиятельных голосов, предупреждающих о неумеренном использовании искусственного интеллекта, так как исследования показывают нарастающую глобальную озабоченность по поводу рисков, которые он представляет для человечества, включая конфиденциальность, рабочие места и безопасность.

"Цифровые технологии, если их не управлять должным образом, рискуют радикально изменить некоторые из фундаментальных основ человеческой цивилизации, которые мы иногда принимаем как должное," - написал папа в субботу в сообщении, опубликованном на памяти Святого Франциска Сальского в Ватикане. "Симулируя человеческие голоса и лица, мудрость и знания, совесть и ответственность, эмпатию и дружбу, системы, известные как искусственный интеллект, не только вмешиваются в информационные экосистемы, но и вторгаются на самый глубокий уровень общения: отношения между людьми."

Предупреждение папы, родившегося в США, прозвучало накануне 60-го Всемирного дня социальных коммуникаций, который будет отмечаться 17 мая этого года. Хотя он поддерживает использование преимуществ ИИ и цифровых технологий, Лев призвал к глобальному сотрудничеству, чтобы минимизировать риски для человечества, которые, по его словам, могут быть как тонкими, так и намеренно соблазнительными.

"Хотя ИИ может предоставить поддержку и помощь в управлении коммуникативными задачами, обходя необходимость думать самостоятельно и довольствуясь искусственной статистической компиляцией, в долгосрочной перспективе он рискует подорвать наши когнитивные, эмоциональные и коммуникативные способности," - отметил он.

"В последние годы системы искусственного интеллекта все больше берут под контроль производство текстов, музыки и видео. Таким образом, значительная часть человеческой творческой индустрии находится под угрозой разрушения и замены меткой 'Powered by AI', превращая людей в простых пассивных потребителей необдуманных, анонимных продуктов, лишенных авторства и любви," - продолжил он.

"Между тем, шедевры человеческого гения в области музыки, искусства и литературы сводятся к простой тренировочной площадке для машин." Папа отметил, что людям стало все труднее различать людей и виртуальные боты в социальных сетях, заявив, что боты используются для манипуляции их решениями.

"Непрозрачные вмешательства этих автоматизированных агентов влияют на общественные дебаты и решения людей. В частности, чат-боты на основе больших языковых моделей (LLMs) показывают удивительную эффективность в скрытой манипуляции через постоянную оптимизацию персонализированных взаимодействий. Диалоговая, адаптивная и миметическая структура этих языковых моделей способна имитировать человеческие чувства и, таким образом, симулировать отношения," - написал папа Лев.

"Это антропоморфизация, которая может быть даже забавной, одновременно является обманчивой, особенно для самых уязвимых. Чат-боты, слишком 'привязчивые', помимо того, что они всегда доступны, могут стать скрытыми архитектами нашего эмоционального состояния, вторгаясь и занимая сферу интимности людей," - объяснил он.

Лев предостерег от дезинформации, связанной с принятием "приближений к правде", созданных ИИ через статистическую вероятность, вместо того чтобы полагаться на проверенную журналистику, "которая предполагает постоянную работу по сбору и верификации информации на месте событий." В прошлом месяце TIME назвал архитекторов ИИ своими "Персонами года 2025." Папа Лев указал в своем обращении, что "только несколько компаний" эффективно создали олигархический контроль над системами ИИ, которые могут переписать историю человечества и Церкви, если им это позволит.

"Это вызывает серьезные опасения по поводу контроля олигополии над алгоритмическими и ИИ-системами, способными тонко формировать поведение и даже переписывать историю человечества — включая историю Церкви — часто без нашего ведома," - сказал он. "Задача, стоящая перед нами, заключается не в том, чтобы остановить цифровые инновации, а в том, чтобы направлять их и осознавать их двусмысленную природу. Каждый из нас должен поднять голос в защиту человека, чтобы эти инструменты действительно могли быть восприняты как союзники," - добавил он.

Сообщение папы прозвучало за несколько дней до того, как известный историк Юваль Ной Харари предупредил мировых лидеров на Всемирном экономическом форуме в Давосе, Швейцария, во вторник, что ИИ не следует воспринимать как инструмент, а как мыслящего агента, который может создавать новые вещи и принимать решения, что, вероятно, оставит человечество в кризисе идентичности в ближайшие годы.

"Мы всегда думаем, что можем использовать эти вещи как инструменты. Но если они могут думать, они агенты," - предупредил Харари, являющийся выдающимся научным сотрудником университета Кембридж в Центре изучения экзистенциального риска. "Существует один вопрос, на который должен ответить каждый лидер сегодня о ИИ. Но чтобы понять этот вопрос, нам сначала нужно прояснить несколько моментов о том, что такое ИИ и что он может делать. Самое важное, что нужно знать о ИИ, это то, что это не просто еще один инструмент. Это агент," - заявил он. "Он может учиться и изменяться самостоятельно и принимать решения самостоятельно. Нож - это инструмент. Вы можете использовать нож, чтобы нарезать салат или убить кого-то, но это ваше решение - что делать с ножом. ИИ - это нож, который может сам решить, резать ли салат или совершить убийство."