Физик Марио Разетти: человечество на распутье из-за двойной экспоненциальной скорости развития ИИ

Искусственный интеллект (ИИ) – это, «возможно, самая грандиозная культурная революция за всю историю Homo sapiens» и даже «антропологический переход», поскольку он радикально меняет способ, которым человек взаимодействует с реальностью. В этом убеждён Марио Разетти, почётный профессор теоретической физики Туринского политехнического университета.

В интервью Алессандро Джизотти для ватиканских СМИ он акцентирует внимание на крупных вызовах, которые ИИ бросает человечеству и которые требуют немедленного осознания и решительных действий. Эта насущная необходимость неоднократно подчёркивалась и Папой Франциском с самого начала его понтификата.

Двойная экспоненциальная скорость и потеря контроля

Одним из наиболее тревожных аспектов для Разетти является скорость развития ИИ, которая носит «двойной экспоненциальный» характер. Его рост значительно превосходит тот, что наблюдался во времена Промышленной революции, и он приводит «к режимам, в которых человеческие рефлексы уже не позволяют контролировать вообще ничего».

Преподававший в своё время в самых авторитетных университетах мира – от Оксфорда до Принстона, – Разетти считает, что человечество сейчас стоит на распутье. «Мы обязаны превратить ИИ из практики в науку, ибо лишь тогда сможем им управлять», – утверждает итальянский учёный.

Этика как основа и энергетический тупик

«Все слабые места искусственного интеллекта коренятся в этике. Нужны люди доброй воли, заботящиеся о будущем рода человеческого, а не о геополитике, которая, как мы видим сейчас, движима эгоизмом, стремлением к господству и равнодушием», – подчёркивает физик.

ИИ – это инструмент колоссальной мощи, основанный на «грубой силе», то есть на непрерывном увеличении вычислительной мощности. Как и любой инструмент, он может быть использован как во благо, так и во вред.

В интервью учёный подробно останавливается на теме экологической устойчивости, отмечая, что ИИ рискует «разбиться об энергетический вопрос». Потребление электроэнергии и воды достигает колоссальных масштабов.

«Эти компьютеры потребляют колоссальные объёмы воды для охлаждения машин. Можно возразить: “Но ведь её не выливают”. Да, но они её используют, а затем возвращают в окружающую среду, нагрев на три градуса выше исходной температуры – и это оказывает значительное воздействие на экосистему», – объясняет Разетти.

Проблема истины и превосходство человека

Ещё один ключевой вопрос, затронутый в беседе, – проблема истины. По мнению Разетти, «самая большая трудность, с какой сейчас сталкивается искусственный интеллект, – это умение отличать истинное содержание от ложного».

ИИ создаёт представления о реальности, но не понимает её: «Искусственный интеллект представляет, но не осознаёт и даже не интерпретирует, он лишь представляет». Поэтому учёный уподобляет ситуацию человечества платоновскому мифу о пещере, где мы видим лишь тени от подлинной реальности.

Разетти подчеркнул превосходство человека над машиной, выделив ключевые отличия:

• ИИ лишён творческих способностей.
• Не способен постичь глубокий смысл переживаний.
• Не умеет самостоятельно исправлять свои «галлюцинации», возникающие в процессе глубокого обучения (deep learning).

Как бы ни поражало наше воображение то, что было достигнуто в области вычислительных мощностей, человек остаётся единственным, кто способен понимать и делать выбор. Именно поэтому, заключает Разетти, несмотря на ошеломляющий прогресс машин, использующих ИИ, «мы, люди, и каждый из нас намного могущественнее машин».