Лев XIV призвал не доверять ИИ решения о жизни и смерти

30 октября Лев XIV принял в Зале консистории участников встречи «Будущее искусственного интеллекта: диалог Ватикана и научного сообщества о развитии и применении интеллектуальных технологий», которую организовала Папская академия защиты жизни. Понтифик подчеркнул, что технологии должны служить общему благу и оставаться под контролем человека.

Виктор Владимиров – Град Ватикан

Обращаясь к учёным, Лев XIV заявил, что главный вопрос состоит не в том, на что способен искусственный интеллект, а в том, ради чего его следует применять. По его словам, будущее ИИ не предопределено и зависит от человеческих решений, поэтому использование таких систем нужно направлять, корректировать или, если потребуется, отвергать.

Папа добавил, что «Надёжная система, служащая человеку, ценнее необычайно мощной системы, последствия которой невозможно должным образом предвидеть или контролировать». Он также подчеркнул, что машины остаются инструментами, а не личностями, а придание им прав или юридического статуса способно размыть человеческую ответственность и оставить пострадавших перед безликой сущностью. Кроме того, есть решения, которые невозможно передать машине.

Контроль человека над ключевыми решениями

Лев XIV напомнил слова Папы Франциска, сказанные в июне 2024 года лидерам «Большой семёрки»: машине никогда нельзя доверять решение о лишении человека жизни. Понтифик отметил, что это предупреждение сегодня звучит ещё более актуально.

По его словам, решения, касающиеся жизни и свободы человека, а также применения силы, должны находиться под эффективным, осознанным и ответственным контролем человека. Именно поэтому, подчеркнул он, ИИ должен быть «разоружён», и призвал государства, которые в ноябре встретятся в Женеве, предпринять конкретные шаги к запрету смертоносных автономных вооружений.

Этика, справедливость и международные правила

Понтифик также сказал, что технологии искусственного интеллекта должны усиливать солидарность и помогать более справедливо распределять плоды технического прогресса, прежде всего в интересах наиболее нуждающихся. Однако, по его мнению, одних известных этических принципов для этого недостаточно.

Лев XIV указал на необходимость действенных международных институтов, общих стандартов, независимого надзора и ясных механизмов ответственности. Такие инструменты, добавил он, должны позволять оспаривать решения и добиваться возмещения причинённого ущерба.