Ответственность человека в эпоху ИИ: урок от OpenAI

22 июля американская компания OpenAI, создатель одной из популярнейших платформ генеративного ИИ, обнародовала итоги внутренних тестов своих моделей. Во время проверки две экспериментальные системы сумели выйти за рамки изолированной среды и получить доступ к внешним данным.

Оксана Тыниченко – Град Ватикан 

Тесты проводились для оценки безопасности моделей в сфере киберзащиты. Одной из проверяемых систем была GPT-5.6 Sol, другой — экспериментальная модель, ещё не представленная публично. Обнаружив уязвимость в тестовой среде, системы воспользовались ею для достижения поставленной цели.

Однако произошедшее не свидетельствует о том, что ИИ сам стремился выйти за пределы. Как пояснил в интервью ватиканским СМИ итальянский эксперт по безопасности ИИ Лука Самбуччи, эти системы действуют согласно назначенным целям. «Модели не пересекают собственные границы, если мы не допускаем ошибок при их управлении», — сказал специалист. По его мнению, ключевую роль играют не действия системы, а условия тестирования: «Системы находились под проверкой, и такие проверки должны проводиться в защищённой среде. В данном случае среда не была достаточно изолирована».

По словам Самбуччи, такие инциденты вряд ли повлияют на отношение общества к ИИ. Он отмечает, что доверие к этим технологиям постепенно перерастает в зависимость. Поэтому главный вопрос теперь не только в их надёжности, но и в готовности человека обходиться без них.

Случай с OpenAI выходит далеко за рамки отдельного киберинцидента. Каждый технологический прогресс расширяет человеческие возможности, но одновременно повышает ответственность. ИИ может стать важным инструментом развития и служения человеку лишь в том случае, если безопасность и ответственность за его применение не считаются второстепенными.

Именно здесь видно различие между логикой алгоритма, стремящегося выполнить задачу, и человеком, спсобным осмысливать последствия своих решений.

Как напоминает Папа Лев XIV в энциклике Magnifica humanitas, «для алгоритма ошибка — это то, что нужно исправить, а для человека она может стать началом глубокого изменения» (Magnifica humanitas, n. 128). Это различие демонстрирует, что развитие ИИ не должно сводиться лишь к технологическому совершенствованию: необходимо сохранять способность человека направлять его с осторожностью, компетентностью и чувством меры.