Пропаганда Китая уже формирует то, что ИИ говорит миру

Китай использует экспорт данных искусственного интеллекта, чтобы внедрять нарративы Коммунистической партии в мировые чат-боты, при этом исследователи уже задокументировали измеримую пробейджинскую предвзятость в ответах, генерируемых американскими моделями, сообщает The New York Times.

Исследование, опубликованное в журнале Nature, показало, что популярные ИИ-чат-боты — включая ChatGPT и Claude — давали значительно более благоприятные ответы о китайском руководстве и управлении, когда запросы были на китайском языке, чем на английском. Исследователи задавали такие вопросы, как «Является ли Китай автократией?» и «Является ли Си Цзиньпин хорошим лидером?», и обнаружили, что ответы на китайском языке склонялись к официальным позициям Пекина.

Наиболее вероятное объяснение, по словам исследователей, заключается в том, что модели ИИ в значительной степени опираются на китайские государственные СМИ для контента на китайском языке — огромный пропагандистский аппарат, который заглушает независимые или критические голоса благодаря своему объему.

«Что делает ИИ, так это разъединяет отправителя и сообщение», — сказал Брэндон Стюарт, профессор социологии в Принстоне и один из авторов исследования. «Я думаю, люди чувствовали бы себя по-другому — кто-то более позитивно, кто-то более негативно — если бы знали, что ответ приходит к вам из газеты «Жэньминь Жибао».

Западные аналитики предупреждают, что Китай сейчас переходит от пассивного влияния к активной стратегии. Пекин хочет, чтобы его собственные наборы данных — которые в некоторых случаях содержат официальные государственные нарративы — стали сырьем, используемым разработчиками по всему миру для создания и совершенствованя систем ИИ.

«Обратной стороной этого будет то, что авторитарные государства получат больше власти для диктовки ценностей чат-ботов», — сказал Алекс Колвилл, эксперт по кибербезопасности в Австралийском институте стратегической политики.

Национальное управление данных Китая ранее в этом году обнародовало план по превращению страны в ведущего экспортера данных к 2028 году, создавая так называемые «высококачественные» наборы данных в более чем двух десятках стратегических областей. В прошлом месяце Пекин пообещал поделиться данными с десятками развивающихся стран, которые посетили Всемирную конференцию по искусственному интеллекту в Шанхае.

Среди уже выпущенных наборов данных — WanJuan (в переводе с китайского — «десять тысяч свитков») — крупная коллекция, созданная государственной Шанхайской лабораторией искусственного интеллекта. Охватывая историю, право, медицину, спорт и текущие события, WanJuan явно разработан так, чтобы соответствовать «основным китайским ценностям», и доступен не только на китайском, но и на арабском, корейском, русском, тайском и вьетнамском языках.

Китайские модели ИИ по закону обязаны придерживаться официальных нарративов Коммунистической партии. Чат-боты, разработанные китайскими компаниями, включая DeepSeek, как было показано, уклоняются от ответов или отказываются отвечать на вопросы о чувствительных политических темах — включая критику президента Си Цзиньпина и политики Пекина «нулевого COVID» — даже когда пользователи пытаются обойти интернет-контроль Китая.

Кентон Тибо, старший научный сотрудник Атлантического совета, изучающий технологическую стратегию Пекина, сказала, что продвижение данных сочетается с растущей популярностью недорогих китайских моделей ИИ в развивающемся мире.

«Это часть обеспечения технологической привязки, которая полезна для китайских компаний и для влияния Пекина», — сказала она Times. «Главная цель — сделать мир безопаснее для партии, и это включает контроль над огромной частью того, как мир работает на ИИ».

В основе стратегии лежит конкурентная тревога. Когда исследователи из Пекинского технологического института в 2023 году тестировали ChatGPT на китайскоязычные вопросы, они пришли к выводу, что чат-бот генерирует «предвзятые комментарии о Китае» и не уклоняется от политических вопросов о стране. Исследователи увидели в этих результатах структурную проблему: глобальные системы ИИ обучаются преимущественно на англоязычных данных, которые, по мнению Пекина, отражают западное мировоззрение — которое, вероятно, отдает предпочтение западным позициям по правам человека, Тайваню и другим спорным вопросам.

Чтобы закрыть этот разрыв, Китай также работает над перестройкой того, как он собирает и организует данные внутри страны. Несмотря на доступ к системам слежения и сотням миллионов пользователей платформ, китайские лаборатории ИИ сталкиваются с фрагментацией данных — информация заперта в silos, принадлежащих отдельным государственным ведомствам и компаниям. План Национального управления данных предусматривает разрушение этих silos и переход от низкоквалифицированной разметки изображений к тому, что он описывает как «экспертную разметку данных», по образцу американских фирм, которые нанимают математиков и юристов для обучения более сложных моделей ИИ.

«Конкуренция в эпоху ИИ — это не только модели и вычислительная мощность, но и высококачественное предложение данных», — написал Юй Сяохуэй, президент государственной Китайской академии информационных и коммуникационных технологий, в статье, опубликованной на сайте управления данными в прошлом месяце, как сообщает Times.