Христиане, и в служении, и в церкви, должны готовиться к «проблеме подмены» с помощью ИИ-фейков: предупреждает Американское Библейское общество

Решение Meta отозвать новый инструмент ИИ, который позволял пользователям создавать изображения из публичных аккаунтов Instagram, подняло более широкие вопросы о новых технологиях ИИ и их влиянии на этику и человеческое достоинство.

Все началось 7 июля, когда Meta запустила функцию Muse Image, которая использует существующие фотографии в качестве исходного материала и позволяет пользователям редактировать сгенерированные изображения непосредственно с помощью набросков.

Ознаменовав собой первую полностью интегрированную модель генерации изображений от Meta Superintelligence Labs, Muse Image быстро столкнулась с негативной реакцией как крупнейшего голливудского талант-агентства Creative Artists Agency (CAA), так и крупнейшего профсоюза исполнителей SAG-AFTRA из-за проблем конфиденциальности и автоматического согласия для публичных аккаунтов Instagram.

Крупнейший профсоюз актеров также поделился советами о том, как изменить настройки в Instagram, чтобы участники могли отказаться от инструмента Muse Image и «принять меры для защиты своего изображения» в заявлении SAG-AFTRA от 9 июля. CAA также призвала Meta изменить курс, позднее заявив: «Мы высоко ценим быстрое решение Meta удалить функцию Muse Image. Уделение первостепенного внимания индивидуальным правам и согласию имеет важное значение для создания ответственной технологии».

Негативная реакция быстро распространилась в интернете: видео от создателя контента Барретта Пола, объясняющее, как пользователи могут отказаться от участия, набрало более 1,5 миллиона просмотров в Instagram Reels, а номинированная на «Эмми» актриса Ханна Айнбиндер также публично раскритиковала инструмент в социальных сетях.

Всего через три дня после запуска, 10 июля, Meta объявила, что прекращает использование функции @-упоминания в Instagram, хотя сам Muse Image остается доступным в приложении Meta AI и WhatsApp.

«Ранее на этой неделе мы объявили, что один из способов генерировать изображения в Meta AI — это @-упоминание публичных аккаунтов Instagram, на которые пользователи хотят ссылаться», — говорится в заявлении компании. «Нашим намерением было предоставить полезный творческий инструмент и дать людям контроль над тем, можно ли ссылаться на их публичный контент таким образом. Мы услышали отзывы о том, что эта функция оказалась неудачной, поэтому она больше не доступна».

Что все это значит для пользователей социальных сетей за пределами Голливуда?

Брайс Эллисон, технический директор Американского Библейского общества, говорит, что он видел явные преимущества ИИ, включая устранение языковых барьеров для продвижения миссии организации по обеспечению доступа каждого человека к Библии. Вместо того чтобы рассматривать ИИ как просто хороший или плохой, он сосредоточен на его использовании способами, которые укрепляют доверие, поддерживают человеческое достоинство и служат людям, не заменяя отношения, мудрость и проницательность, которые остаются уникально человеческими.

Для Эллисона сам эпизод с Meta указывает на более глубокую проблему. «Когда чье-то изображение используется без его ведома или согласия, мы рискуем относиться к человеку, созданному по образу Божьему, как к сырью, а не как к личности, обладающей неотъемлемым достоинством», — сказал он.

Для Эллисона сам эпизод с Meta указывает на более глубокую проблему. «Когда чье-то изображение используется без его ведома или согласия, мы рискуем относиться к человеку, созданному по образу Божьему, как к сырью, а не как к личности, обладающей неотъемлемым достоинством», — сказал он.

Это различие важно, добавил он, не только для христиан в церкви, но и для любого, кто ориентируется в мире, управляемом ИИ, особенно для тех, кто находится в служении.

«Во-первых, большинство людей проводят гораздо больше времени в алгоритмически подобранных лентах, чем в рамках учения какой-либо церкви, и эти системы оптимизированы для вовлеченности, что не то же самое, что зрелость», — сказал он.

Предупреждая, что «проблема подмены уже здесь, а не грядет», Эллисон призвал пасторов по всей стране обратиться к своим общинам по поводу видео, созданных ИИ, с просьбой о пожертвованиях от их имени.

«Фейкам даже не обязательно быть качественными, чтобы работать», — сказал он. «Каждому служению нужен ответ на вопрос: "Как наши люди узнают, что это действительно от нас?" и время разобраться с этим — до того, как это произойдет».

На вопрос о том, как служениям следует обучать персонал и интегрировать обучение ИИ, Эллисон поделился опытом Американского Библейского общества. «Начните с данных. Именно там вред проявляется в первую очередь, и именно там разрыв между интуицией и реальностью наиболее велик. Персонал служения имеет дело с пастырскими беседами, консультационными записями, просьбами о благотворительной помощи и записями доноров. Почти ни у кого не возникает интуитивного понимания, что вставка любого из этого в потребительский чат-бот является нарушением конфиденциальности. Скажите об этом явно, прежде чем что-либо еще», — добавил он.