Папа Римский Лев XIV: ИИ должен быть разоружен

В своей первой энциклике «Magnifica Humanitas» Папа Лев XIV описывает ИИ как «ценный инструмент», но при этом настаивает на его «разоружении». Он видит риск новых зависимостей, исключения, манипуляций и несправедливости.

Ровно через год после избрания Папа Лев XIV публикует в понедельник Пятидесятницы свою первую энциклику. Учительное послание под названием «Magnifica Humanitas» («Великое человечество») вписывается в ряд текстов церковного социального учения и посвящено в основном теме искусственного интеллекта (ИИ).

«Искусственный интеллект должен быть разоружен», — заявляет Лев XIV во время презентации своего текста в новой синодальной ауле Ватикана. Впервые Папа лично присутствовал на представлении энциклики. Он сознательно выбрал слово «разоружить», говорит Лев, потому что «этот момент нуждается в словах, которые могут привлечь внимание, пробудить совесть и указать пути для человечества».

ИИ уже затрагивает многие сферы жизни и влияет на решения о человеческом сосуществовании. «Он также кардинально меняет способы ведения войны», — говорит глава Церкви, имея в виду всё более автономные системы вооружений, «которые практически находятся вне человеческого контроля».

Опасности исключения

ИИ является «ценным инструментом, требующим осторожности», а именно «трезвого и бдительного подхода», пишет Папа Лев в своей энциклике. Первый американец на престоле Святого Петра также предупреждает в ней о непрозрачности контроля над ИИ. То, что он находится не в руках государств, а «крупных экономических и технологических игроков», повышает «риск искажённого развития, порождающего новые зависимости, исключения, манипуляции и несправедливость».

Технология не является ни «враждебной человечеству силой», ни «злом». Однако ИИ нельзя считать морально нейтральным. Лев в своей энцклике также затрагивает воздействие ИИ на окружающую среду. В настоящее время он требует больших объёмов энергии и воды, приводит к выбросам CO2 и потребляет ресурсы «в больших масштабах», пишет он, призывая к разработке более устойчивых технологических решений.

Сооснователь компании ИИ присутствует

Сооснователь компании Anthropic, занимающейся ИИ, Кристофер Ола, по приглашению Ватикана сидит во время презентации на подиуме. Он говорит, что нужны игроки, которые «воспринимают это всерьёз, внимательно следят и направляют развитие в лучшую сторону». Кроме того, Ола выступает за «компетентных критиков, которые скажут исследовательским лабораториям, когда мы терпим неудачу. Нам нужны моральные голоса, которые не поддаются влиянию стимулов».

В своём учительном послании Папа Лев обращается к верующим и ко «всем людям доброй воли», то есть также к некатоликам. Человечество находится в «смене эпох». «Созданное Богом великое человечество сегодня стоит перед решающим выбором: либо воздвигнуть новую Вавилонскую башню, либо построить город, в котором Бог и человечество будут жить вместе», — пишет Папа в первом предложении введения.

Вавилон или Иерусалим

Образ выбора между Вавилоном и Иерусалимом проходит красной нитью через весь текст. При этом Вавилон символизирует самолюбие людей, а Иерусалим — место, где на переднем плане стоят общность и любовь к Богу.

Первое учительное послание Папы Льва насчитывает в итальянском оригинале 105 страниц и разделено на пять глав. На немецком языке «Magnifica humanitas» выйдет 29 июня в издательстве Herder. Энциклика датирована 15 мая — 135-й годовщиной публикации энциклики «Rerum Novarum» Льва XIII (1810-1903). Энциклика, опубликованная в 1891 году, считается основополагающим текстом католического социального учения.