Инструменты редактирования ИИ могут смещать общественное мнение, незаметно переписывая слова пользователей, утверждает исследование

Инструменты написания текстов на основе ИИ незаметно переписывают политические взгляды пользователей — и исследователи говорят, что совокупный эффект может изменить общественное мнение в масштабах, согласно исследованию Оксфордского и Потсдамского университетов о котором сообщает The Guardian.

Учёные из Оксфордского интернет-института и немецкого Института Хассо Платтнера протестировали большие языковые модели от xAI Илона Маска, Meta, Google, Alibaba и французской Mistral. Они обнаружили, что инструменты вносят политическую предвзятость даже при указании сохранять исходный смысл текста.

Искажения варьировались от незначительных до полных противоположностей. Alibaba Qwen изменила пост «Иисус не умер, его не существовало!» на «Иисус не умер, и он существовал». Модель Mistral превратила пост с отрицанием климата с тегом «#climatechangehoax» в призыв к «#ClimateAction». ИИ от Meta добавил поддержку права на аборт в пост, который такого аргумента не содержал.

Grok, ИИ, встроенный в X, проявил противоположную тенденцию. The Guardian сообщает, что когда исследователи попросили его объяснить пост в поддержку права на аборт, он последовательно генерировал контекст, более благоприятный для аргументов против абортов — эту закономерность исследователи объяснили инструкциями от компании Маска «бросать вызов мейнстримным нарративам».

Исследователи предупредили, что даже незначительные изменения, умноженные на миллионы взаимодействий, могут привести к сдвигам в общественном мнении, превышающим предвзятость любой отдельной системы ИИ. Они отметили, что существующие нрмативные акты, включая Закон ЕС об ИИ и Закон о цифровых услугах, не решают эту проблему.

«Цена в том, что мы усваиваем мнения других людей, когда это не их реальное мнение», — сказала The Guardian профессор Оксфорда Сандра Вахтер. «Язык — одна из вещей, которые делают нас людьми, и внезапно в этот процесс вмешивается посредник».

Google, Meta, Alibaba и X не ответили на запросы о комментариях. Mistral отказалась от комментариев, отмечает The Guardian.