Подписана Римская декларация по ядерному оружию и ИИ

16 июля на Капитолийском холме в Риме была подписана «Римская декларация о безоружном и обезоруживающем мире в эпоху искусственного интеллекта, ядерного и автономного оружия, новых цифровых протоколов и цифрового развития».

с. Вера Исаченко – Град Ватикан  

Это событие стало кульминацией Всемирной ассамблеи, проходившей с 14 по 16 июля в Кастель Гандольфо. В ней приняли учасие около 200 специалистов, среди которых нобелевские лауреаты, международные эксперты, ученые, религиозные лидеры, а также бывшие главы государств и правительств. Ассамблея была вдохновлена энцикликой Папы Льва XIV Magnifica humanitas, посвященной защите человеческого достоинства в эпоху искусственного интеллекта.

В тексте декларации, состоящем из шести пунктов, говорится о том, что человечество сталкивается с беспрецедентным вызовом современности, который затронет каждого человека. Развитие ИИ может привести не только к массовой потере рабочих мест и усилить экономическую конкуренцию между ядерными державами: растущая гонка ядерных вооружений идет рука об руку со столь же опасной гонкой ИИ. Он призывает предотвратить следующую гонку вооружений, прежде чем она определит облик будущего. Разработчикам систем ИИ настоятельно рекомендуется действовать в интересах человечества согласно международному законодательству и правам человека. Декларация призывает к принятию международного договора, запрещающего безответственную интеграцию ИИ в системы управления, контроля и запуска ядерного оружия.

Присутствовавший на заседании генеральный викарий Его Святейшества для Римской епархии кардинал Бальдассаре Реина заявил, что Римская декларация имеет сегодня особое значение, так как человечество находится в переломном моменте истории: «Научно-технический прогресс открывает экстраординарные возможности для здравоохранения, образования, защиты окружающей среды, борьбы с бедностью и созидания мира. Тем не менее, будучи оторванным от этики, ответственности и уважения достоинства человека, этот же прогресс может стать инструментом господства и даже уничтожения. Представленная сегодня Декларация с предельной ясностью напоминает, что ни одна машина, ни один алгоритм, ни одна автономная система не могут стать центром принятия решений, от которых зависит выживание человечества». Кардинал отметил, что решения, касающиеся жизни и смерти, мира и войны, будущего народов и грядущих поколений, должны оставаться под полным, ответственным и осмысленным контролем человека.

В своем выступлении о. Андреа Чуччи, канцлр Папской академии защиты жизни, размышлял об особенностях человеческих изобретений. С одной стороны, люди способны создавать удивительные шедевры, но с другой – человеческий ум может сеять опустошение. По его словам, искусственный интеллект и ядерная энергия не являются исключением: ИИ может побуждать человечество к созиданию или к разрушению.

Опасность ядерного оружия сейчас намного выше, чем 30 лет назад, считает профессор теоретической физики и проректор Калифорнийского университета, нобелевский лауреат в области физики Дэвид Гросс. Ученый выразил сожаление о прекращении договоров по контролю над вооружением: уже девять государств являются ядерными державами. По его словам, люди во всем мире больше не могут оставаться в неведении относительно того, как эти угрозы могут повлиять не только на их жизнь, но и на будущие поколения. Говоря о Римской декларации, он выделил главное: «Мы призываем ядерные державы продвигать политику, снижающую риск войны, ядерной войны и полного уничтожения». Он заявил, что присутствующие, вдохновленные словами Папы Льва XIV, обязаны действовать.

«Человеческое достоинство – это не алгоритм», – подчеркнула в своей речи Посол мира Шэрон Стоун, именно поэтому по мере развития возможностей машин, должны расширяться и моральные обязательства тех, кто их создает.