Лев XIV призывает к защите человеческого голоса и лица в эпоху искусственного интеллекта

Дорогие братья и сёстры! Лицо и голос – уникальные отличительные черты каждого человека; они отражают его неповторимую самобытность и являются составной частью каждой встречи.

Об этом хорошо знали в древности. Не случайно древние греки, определяя человеческое существо, использовали слово «лик» (prósopon), которое обозначает то, что находится перед взором, место пребывания и отношения. Латинский термин persona (от per-sonare) включает в себя звучание: не всякий звук, а неповторимый голос конкретного человека.

Лицо и голос священны. Они дарованы Богом, Который сотворил нас по Своему образу и подобию, призвав к жизни Словом, с которым Он Сам к нам обратился. С самого начала библейское Откровение предстаёт как история диалога: Слово, звучащее на протяжении веков в голосах пророков и ставшее плотью в полноте времён.

Это Слово, – коммуникация, в которой Бог открывает Себя, – стало доступным слуху и взору непосредственно в голосе и лике Иисуса (см. 1 Ин 1,1-3). С момента сотворения человека Бог возжелал, чтобы он стал Его собеседником, и, как говорит святой Григорий Нисский, запечатлел на его лице отражение Божественной любви, дабы тот мог полноценно жить своей человечностью через любовь.

Поэтому беречь лица и голоса людей означает хранить эту печать, этот неизгладимый отблеск любви Бога. Мы не являемся видом, состоящим из заранее прописанных биохимических алгоритмов: каждый человек обладает незаменимым и неповторимым призванием, которое раскрывается в течение жизни и проявляется именно в общении с другими.

Если этого не сберечь, цифровая технология рискует радикально изменить некоторые из фундаментальных столпов человеческой цивилизации, которые мы порой принимаем как должное. Имитируя человеческие голоса и лица, мудрость и знания, осознанность и ответственность, эмпатию и дружбу, системы, известные как искусственный интеллект, не только вмешиваются в информационные экосистемы, но и вторгаются на самый глубокий уровень коммуникации – уровень отношений между людьми.

Не отказываться от собственного мышления

Уже давно очевидно, что алгоритмы, разработанные для максимального вовлечения в социальные сети – что прибыльно для платформ – вознаграждают быстрые эмоции и, напротив, пренебрегают теми человеческими чертами, которые требуют времени, такими как усилия для понимания и размышления.

Замыкая группы людей в пузырях лёгкого согласия, эти алгоритмы ослабляют способность внимать и критически мыслить, усиливая социальную поляризацию. К этому в ряде контекстов добавилось чрезмерное и лишённое критического осмысления доверие к искусственному интеллекту, который воспринимается как своего рода всеведущий «друг», раздатчик всякой информации, хранилище всех воспоминаний, «оракул» любого совета.

Такое отношение может ослабить нашу способность мыслить аналитически и креативно, понимать смысл, различать синтаксис и семантику. Хотя ИИ способен оказывать поддержку и помощь в решении коммуникативных задач, отказ от усилий собственного мышления в пользу результатов искусственной статистической компиляции чреват в долгосрочной перспективе размытием наших когнитивных, эмоциональных и коммуникативных способностей.

Быть или казаться: симуляция отношений и реальности

Листая наши информационные потоки, становится все труднее понять, взаимодействуем ли мы с другими людьми или с «ботами» и «виртуальными инфлюенсерами». Непрозрачные вмешательства этих автоматизированных агентов влияют на общественные дебаты и на выбор людей.

В особенности чат-боты, основанные на больших языковых моделях (LLM), оказываются поразительно эффективными в скрытом убеждении через постоянную оптимизацию персонализированного взаимодействия. Эта антропоморфизация, которая может даже казаться забавной, в то же время обманчива, особенно для самых уязвимых людей.

Потому что постоянно присутствующие и доступные чат-боты, наделённые чрезмерной «сердечностью», могут стать скрытыми архитекторами наших эмоциональных состояний и таким образом вторгаться в сокровенную сферу человека.

Технология, эксплуатирующая нашу потребность в отношениях, может не только иметь болезненные последствия для судеб отдельных людей, но и нанести ущерб социальной, культурной и политической ткани общества.

Заключение

За этой огромной невидимой силой, вовлекающей всех нас, стоит лишь горстка компаний, чьи основатели недавно были представлены как создатели «человека 2025 года», то есть архитекторы искусственного интеллекта. Это вызывает серьёзную обеспокоенность из-за рисков, связанных с утратой человеческих ценностей в условиях стремительного технологического прогресса.