ООН предупреждает: дети становятся «подопытными кроликами» для нерегулируемого ИИ на фоне роста онлайн-рисков

Организация Объединенных Наций призывает правительства, технологические компании и рекламодателей принять меры по решению того, что она описывает как насущную и важную политическую задачу — безопасность, права и цифровое будущее самого подключенного поколения в мире.

ООН призывает к срочным скоординированным действиям для защиты детей и молодежи от растущих опасностей в цифровых информационных пространствах, предупреждая, что бизнес-модели, основанные на привлечении внимания и сборе личных данных, формируют онлайн-опыт целого поколения, не имеющего возможности защититься от вреда.

В новом докладе ООН, опубликованном накануне Международного дня молодежи 12 августа, отмечается, что дезинформация, алгоритмические манипуляции, таргетированная реклама, онлайн-преследования и непрозрачные системы ИИ теперь представляют серьезные и усугубляющиеся угрозы для безопасности, развития и прав детей. Доклад, опубликованный 10 августа Департаментом глобальных коммуникаций ООН, является третьим в серии, посвященной укреплению информационной целостности в глобальных информационных средах.

«Ни один ребенок не должен быть подопытным кроликом для нерегулируемого ИИ», — заявил Генеральный секретарь ООН Антониу Гутерриш. «Когда ребенку причинен вред, ответом никогда не должно быть "это алгоритм виноват"».

Более 80% молодых людей в возрасте от 15 до 24 лет сейчас пользуются интернетом по всему миру, сообщается в докладе. В странах с низким уровнем дохода молодежь пользуется интернетом почти вдвое чаще, чем население в целом, даже несмотря на сохраняющиеся значительные цифровые разрывы внутри регионов и между ними. В странах с высоким уровнем дохода отношения детей с цифровыми платформами часто начинаются в раннем детстве и углубляются в подростковом возрасте.

Дети и молодежь сегодня взаимодействуют с цифровыми технологиями практически во всех аспектах повседневной жизни: образование, социальные связи, экономические возможности, развлечения и гражданское участие. Однако платформы, формирующие этот опыт, не были разработаны с учетом благополучия детей.

Созданы для прибыли, а не для детей

Технологические компании построили свои платформы вокруг того, что исследователи называют «экономикой внимания» — бизнес-моделей, которые зависят от максимизации времени, проводимого пользователями онлайн, и данных, которые можно извлечь из их поведения, привычек и эмоциональных состояний. Эта модель финансирует гиперперсонализированную рекламу, которая может быть адаптирована в реальном времени к индивидуальным уязвимостям и неуверенностям, говорится в докладе ООН.

Формирующиеся когнитивные и эмоциональные способности детей делают их особенно восприимчивыми к функциям дизайна, предназначенным для использования психологических слабостей. Алгоритмические системы могут заманивать юных пользователей в постоянно усиливающиеся контентные петли, подвергая их воздействию все более экстремального материала — включая контент, связанный с самоповреждением, самоубийством, порнографией, экстремизмом и насилием. В игровых средах и социальных сетях используются обманные интерфейсы, механики перемежающегося вознаграждения, похожие на игровые автоматы, и тактики "страха упущенной выгоды" для стимулирования компульсивного вовлечения и расходов.

Детям также трудно отличить органический контент от платной рекламы, и этот пробел коммерческие интересы специально используют. Некоторые технологические компании начали размещать рекламу в результатах и сводках, генерируемых ИИ, усугубляя и без того значительный дефицит грамотности.

«Защита и вовлечение детей не являются конкурирующими целями. Мы должны делать и то, и другое», — сказала Шарлотта Скаддан, старший советник ООН по информационной целостности.

В докладе утверждается, что рассмотрение этих проблем как вопроса родительского контроля или индивидуального экранного времени упускает из виду структурные силы, вызывающие вред. Цифровые системы теперь настолько глубоко вплетены в коммерческую, образовательную и социальную жизнь, что отказ от них не является ни осуществимым, ни реалистичным для большинства семей. Бремя, говорится в докладе, должно лежать на платформах, создающих вред, и на регуляторных системах, необходимых для управления ими, — а не на детях, родителях или опекунах.

Глобальная волна регулирования — с пробелами

Правительства по всему миру принимают меры для заполнения того, что ООН называет критическими политическими пробелами. Австралия в 2024 году инициировала международный регуляторный импульс, потребовав от платформ социальных сетей предотвращать создание аккаунтов пользователями младше 16 лет. Европейский союз рассматривает аналогичную меру в своих 27 государствах-членах, а Индонезия и Малайзия приняли аналогичные законы. Великобритания планирует ввести возрастные ограничения в начале 2027 года.

Цифровой статут о детях и подростках Бразилии, принятый в сентябре 2025 года, является одним из наиболее комплексных подходов на сегодняшний день. Он запрещает поведенческую рекламу, нацеленную на несовершеннолетних, запрещает использование личных данных детей способами, нарушающими их права, и требует максимально высоких настроек конфиденциальности по умолчанию для пользователей младше 18 лет, а также требует механизмов проверки возраста.

Анализ ЮНИСЕФ, проведенный в шести юрисдикциях — Австралии, Европейском союзе, Индии, Казахстане, Южной Африке и Великобритании — выявил группу общих деловых обязательств, присутствующих по крайней мере в половине рассмотренных рамок, включая требования безопасности по дизайну, оценки воздействия, процедуры рассмотрения жалоб и отчетность о прозрачности. Африканский союз принял Политику онлайн-безопасности и расширения прав и возможностей детей в 2024 году, хотя в докладе ООН отмечается, что ее эффект в значительной степени зависит от потенциала и политической воли отдельных государств-членов.

Несмотря на широту этого регуляторного импульса, в докладе предупреждается, что существующие рамки не были разработаны для решения того, что грядет. Технологии ИИ вводят риски — синтетический контент, эксплуатацию с помощью ИИ и непрозрачные алгоритмические системы, формирующие информационную среду детей, — которые текущие правила не могут адекватно охватить. ООН и эксперты по правам детей предостерегли от подхода "подождем и посмотрим" к управлению ИИ, утверждая, что законодательные рамки должны включать права детей с самого начала, пока это окно возможностей не закрылось.

Коалиция ставит права детей в центр управления ИИ

За месяц до публикации доклада UN News сообщило о запуске в Женеве Коалиции за права детей и их защиту в эпоху искусственного интеллекта — новой международной организации, члены-учредители которой обязалис обеспечить, чтобы дети рассматривались не просто как пользователи технологий, которых нужно защищать постфактум, а как носители прав, чьи взгляды формируют проектирование систем ИИ с самого начала.

Семнадцать стран подписались при запуске: Австрия, Бразилия, Болгария, Канада, Чехия, Сальвадор, Эстония, Франция, Индонезия, Италия, Япония, Кения, Люксембург, Марокко, Нидерланды, Республика Корея и Испания. Среди членов-учредителей ООН: Департамент глобальных коммуникаций, Управление ООН по правам человека, Международный союз электросвязи, Управление по цифровым и новым технологиям, ЮНИСЕФ и ЮНЕСКО.

Коалиция опирается на Конвенцию о правах ребенка, самый широко ратифицированный договор по правам человека в мире. Ее создание последовало за призывом Генерального секретаря Гутерриша к принятию Обязательства по безопасности детей в сфере ИИ на Глобальном диалоге по управлению ИИ в июле и знаменательным соглашением G7 среди министров цифровых технологий об общих принципах создания более безопасных цифровых пространств для детей.

Молодежь как субъекты — и мишени

В докладе ООН молодые люди представлены как активные участники общественной жизни — создатели, адвокаты, организаторы и гражданские лидеры, чьи способности информационная экосистема должна поддерживать, а не эксплуатировать.

Молодежные движения продемонстрировали силу цифровых платформ для быстрой мобилизации и трансграничного действия, используя общие культурные символы для построения транснациональной солидарности вокруг таких вопросов, как правительственная коррупция, изменение климата и права человека. Эти движения в некоторых случаях опережали возможности правительств по коммуникации.

Однако те же среды, которые обеспечивают эту гражданскую энергию, также подвергают молодых активистов серьезным рискам. Женщины и девушки, входящие в публичную сферу — как журналистки, правозащитницы, политики или активистки — непропорционально часто становятся жертвами насилия с использованием технологий, говорится в докладе. Молодые протестующие сталкивались с онлайн-преследованиями, слежкой со стороны государства и негосударственных субъектов, кампаниями дезинформации, направленными на дискредитацию их движений, отключениями интернета и использованием алгоритмического усиления акторами, стремящимися к поляризации и дестабилизации.

В докладе также выявляется структурная проблема представительства. Несмотря на масштаб и сложность молодежных движений по всему миру, точки зрения молодых людей остаются недостаточно представленными в политических форумах, где принимаются решения об информационной целостности и где они оспариваются. Устранение этого разрыва, утверждается в докладе, является как правовым обязательством, так и практическим требованием для создания эффективных и устойчивых решений.

К чему призывает ООН

Рекомендации ООН организованы вокруг пяти основных принципов, взятых из Глобальных принципов информационной целостности, запущенных Гутерришем в июне 2024 года.

В отношении доверия и устойчивости доклад призывает государства требовать от технологических компаний безопасности по дизайну и привлекать платформы к ответственности за результаты, а не только за намерения. Возрастной дизайн, говорится в нем, должен быть встроен в архитектуру продукта с самого начала — с максимально высокими настройками конфиденциальности и безопасности по умолчанию для младших пользователей, а не тем, что им приходится искать в меню.

В отношении рекламы доклад призывает рекламодателей прекратить таргетинг на несовершеннолетних с помощью поведенческой рекламы и обеспечить, чтобы коммерческие сообщения были четко отличимы от органического контента. Он указывает на закон Бразилии и Закон Европейского союза о цифровых услугах как на образцы, а также призывает отраслевые коалиции установить общие нормы в отношении того, что представляет собой манипулятивная или эксплуататорская практика применительно к молодой аудитории.

В отношении расширения прав и возможностей общественности доклад призывает к интеграции цифровой и медиаграмотности в формальное образование с раннего возраста, с содержанием и методами, адаптированными к стадии развития детей. Он также призывает к созданию доступных, дружественных к детям механизмов для сообщения о вреде и получения возмещения, включая направления к специалистам по психическому здоровью, доступных на местных языках и разработанных при непосредственном участии самих молодых людей. Меры подотчетности должны обеспечить, чтобы платформы и другие субъекты могли нести ответственность, когда их продукты причиняют измеримый вред.

В отношении независимых СМИ доклад определяет упадок местной журналистики и распространение "новостных пустынь" как усугубляющую проблему для доступа детей к надежной и актуальной информации о своих сообществах. Компании ИИ усугубляют этот упадок, отмечается в нем, через агрессивный сбор данных и клики с нулевым переходом, которые обходят прямой доступ к новостным сайтам. Молодые люди также все чаще становятся производителями медиа — через социальные сети, подкастинг и другие платформы, — и доклад утверждат, что те же гарантии свободы прессы, которые предоставляются профессиональным журналистам, должны применяться к детям и молодежи, занимающимся гражданской и журналистской деятельностью в интернете.

В отношении прозрачности доклад выявляет значительный системный барьер: технологические компании обладают огромными объемами данных о том, как их платформы влияют на пользователей, но эти данные в значительной степени недоступны независимым исследователям. Без них ни политики, ни педагоги, ни родители, ни сами дети не имеют доказательств, необходимых для принятия обоснованных решений. Доклад призывает к соглашениям об обмене данными, которые защищают конфиденциальность пользователей, обеспечивая при этом строгий независимый контроль — с особой срочностью в отношении систем ИИ, которые сейчас опосредуют значительную часть того, с чем дети сталкиваются в интернете.

В докладе также отмечается географическое слепое пятно в существующей доказательной базе. Большинство исследований о детях и цифровых средах проводилось в контексте Северной Америки и Европы, несмотря на то, что большинство детей и молодых людей в мире живут на глобальном Юге. Он призывает к устойчивым инвестициям в исследовательский потенциал в недостаточно представленных регионах, наряду с подлинными партнерствами с местными учреждениями и молодежью.

Физические пространства как необходимый противовес

Еще одна рекомендация, также включенная в доклад, — это акцент на физической среде. Общественные центры, библиотеки, молодежные клубы и другие общие пространства вне дома и школы — иногда называемые «третьими местами» — являются важными основами для информационной целостности, говорится в докладе ООН. Это места, где молодые люди встречают разные точки зрения, практикуют гражданское участие и развивают привычки ума, которые одни цифровые платформы не могут воспитать.

Доклад призывает государства работать со всеми заинтересованными сторонами для поддержки условий, позволяющих детям и молодежи вести динамичную, разнообразную жизнь за пределами цифровых платформ — рассматривая это не как культурное предпочтение, а как структурную необходимость для построения устойчивых, информированных и активных обществ.

Молодые люди не только одни из наиболее затронутых последствиями сбоев глобальной информационной экосистемы, но также одни из самых мотивированных и способных помочь исправить ее, утверждается в докладе. Вопрос, говорится в нем, заключается в том, готовы ли институты — правительства, технологические компании, гражданское общество, медиаорганизации и сама ООН — привлечь их в качестве подлинных партнеров, а не рассматривать их защиту как всю проблему.