Почему мы должны знать, что скрывается за "Big Tech"

Насколько велика власть и влияние крупных технологических корпораций? Инго Дахвиц, редактор Netzpolitik.org, утверждает: эти корпорации сознательно манипулируют поведением пользователей, оказывают политическое влияние и эксплуатируют людей. Они концентрируют власть и деньги, а это угрожает нашей свободе.

evangelisch.de: Инго, что именно скрывается за термином "Big Tech" и как он возник? 

Инго Дахвиц: Big Tech — это собирательный термин для крупных и влиятельных технологических корпораций. Они производят и эксплуатируют устройства, сервисы и инфраструктуру, от которых зависят многие люди и государства. Например, смартфоны, онлайн-платформы, модели ИИ, центры обработки данных и т.д. Точное определение того, кто входит в эту категорию, отсутствует. Но термин подчеркивает, что крупные технологические корпорации сегодня доминируют в мировой экономике. Пять самых дорогих компаний в настоящее время — Google, Apple, Amazon, Microsoft и Nvidia. Они получают астрономическую прибыль: сотни миллиардов долларов только за последний год. Иногда к ним причисляют и другие корпорации, так что это конгломерат крупных технологических компаний.

Насколько широко эти корпорации вторгаются в нашу жизнь? Где я с ними сталкиваюсь?

Дахвиц: Вся наша цифровая жизнь, и всё больше наша аналоговая жизнь, формируется продуктами этих корпораций. Данные, которые мы создаем или которые создаются о нас, проходят, например, через подводные кабели, которые всё больше принадлежат этим Big Tech-корпорациям. Они также запускают спутники в космос, чтобы предлагать оттуда интернет и самим становиться поставщиками инфраструктуры.

И есть крупные платформы, которые все знают: онлайн-шопинг, как Amazon, крупные социальные медиа-платформы Facebook и другие, Google как поисковая система и коммуникационные сервисы. То есть мы почти не можем их избеать, и они формируют наш мир, как никакие другие компании сегодня. Крупные технологические корпорации доминируют в капитализме.

В чем тогда опасность для меня?

Дахвиц: Прежде всего, опасность кроется в самом термине "Big Tech": он слишком обобщает. Эти корпорации производят весьма разнообразные продукты. Что их объединяет, так это то, что они создают огромные массивы данных о людях и системах и поэтому могут отлично манипулировать людьми, например, зарабатывать деньги на рекламе. Манипуляция для них — бизнес, и она также сказывается на политике.

Искусные манипуляторы

Но вы сами замечаете, когда пользуетесь поиском Google, ИИ-сервисами или социальными медиа-платформами, что платформы очень хорошо умеют манипулировать нами, задавая определенные стимулы, как нам вести себя на этих платформах.

"Сейчас идет очень активная дискуссия о вызывающем зависимость дизайне"

Многие люди используют социальные медиа больше, чем хотели бы, и больше, чем им полезно, но не могут от них оторваться. Потому что платформа заботится о том, чтобы мы оставались. Ответственные за это нанимают армии специалистов по поведению и когнитивных психологов, которые думают только о том, как заставить людей проводить там больше времени. Мотивация — бизнес-модель, продажа большего количества рекламы. Поэтому они делают так, чтобы постоянно что-то всплывало, всегда есть якобы новость, на которую мы должны отреагировать: push-уведомления, бесконечная прокрутка. Можно бесконечно смотреть видео или посты в социальных сетях. Всё это — сознательные изобретения, дизайнерские решения, направленные на то, чтобы сделать людей зависимыми. И действительно, психологи и когнитивные исследователи говорят, что это очень похоже на механизмы наркотической зависимости.

Это моя индивидуальная проблема, а что дальше?

Дахвиц: Еще важнее коллективное измерение. У нас огромная концентрация власти и денег в руках нескольких корпораций, какого не было, пожалуй, никогда в истории человечества. Возможно, сравнимая с Британской или Голландской Ост-Индскими компаниями, которые во времена колониализма действовали почти как государства.

Можем ли мы, отдельные люди, как-то этому противостоять? Кроме того, чтобы не пользоваться, верно?

Дахвиц: Что-то сделать не невозможно. На индивидуальном уровне это очень сложно. Есть альтернативы поисковым системам, социальным медиа, мессенджерам и т.д., которые работают иначе. Но нам нужны коллективные решения; регулирование — очень важное слово.

Усиливает ли ИИ власть этих корпораций?

Дахвиц: ИИ — это новейшая глава и одна из важнейших: искусственный интеллект, или то, что под ним подразумевается. Я предпочитаю говорить о чат-ботах, потому что термин вводит в заблуждение, и техно-корпорации живут за счет этого мифа об "ИИ". До настоящего искусственного интеллекта нам еще далеко. Эти чат-боты удобны, они многое делают за нас, и мы можем переложить на них утомительные задачи, такие как мышление и письмо. Многие используют их как замену друзьям, общаются с ними, используют как замену врачам или психотерапевтам, и поэтому эти сервисы, естественно, приобретают огромный охват и огромную власть. Но структурно это не отличается от того, что мы видели раньше — так сказать, экспансия технологических корпораций.

"Мы могли купить профили передвижения людей, входящих и выходящих с военных баз в Германии, даже тех, кто работает в разведке."

Многие думают: если я законопослушный гражданин и не преступник, пусть собирают все мои данные, как это разрешено в США, может, результаты станут даже лучше?

Дахвиц: Вместе с Баварским радио мы из Netzpolitik.org за последние годы провели отмеченное наградами расследование, которое продолжается до сих пор. "Файлы брокеров данных". Мы показали, что, например, данные о местоположении, то есть метаточные данные о том, где находились наши телефоны, которые якобы собирались только для рекламных целей, попадали к торговцам данными. Это означает, что у этих компаний, специализирующихся на сборе, упаковке и продаже данных, можно купить данные о местоположении, например, высокопоставленных немецких государственных чиновников.

Мы могли купить профили передвижения людей, входящих и выходящих с военных баз в Германии, даже тех, кто работает в разведке. То есть мы давно уже не в ситуации, когда это только для рекламы и вы видите оптимизированное объявление, а мы видим, что эти данные теперь попадают повсюду. Их перепродают брокеры данных, и в конечном итоге они оказываются и у журналистов, как мы.

Правительства проявляют интерес к данным

У нас уже есть тринадцать с половиной миллиардов точек данных о местоположении со всего мира. Мы видели, например, что венгерское правительство купило лицензии на программы, обрабатывающие такие рекламные данные, для правоохранительных органов. Австрийское правительство также купило такие программы, и всего несколько недель назад мы показали, что и немецкое земельное управление уголовной полиции использовало такие сервисы. Это значит, что и в Германии самые точные данные о наших передвижениях в конечном счете могут оказаться у полиции.

"Можно сказать: да, мне нечего скрывать, я законопослушный гражданин. Но политическая ситуация может измениться."

В Германии мы сталкиваемся с возможностью единоличного правления крайне правой партии. Как тогда будут использоваться эти данные? Что насчет преследующих бывших партнеров, преступников, которые хотят выснить, дома люди или нет? Всё это возможно с этими данными, то есть у нас есть реальные проблемы безопасности.

 "Всегда речь идет о дискриминации людей по группам"

Система датификации основана на сравнениях. Всегда речь идет о дискриминации людей по группам и отсеивании определенных групп, не соответствующих норме или идеалу. Это относится и к камерам наблюдения в общественных местах, которые с помощью ИИ должны распознавать ненормальное поведение, и к системам скоринга в бизнесе, которые, например, рассчитывают кредитоспособность или риски для здоровья. Такие системы обучаются на данных людей, которые говорят: я здоров, я богат, поэтому мне нечего бояться. Но на основе этих данных, конечно, отсеиваются и другие. Это нужно всегда осознавать.

Например, когда в автомобиле предлагают передавать данные, чтобы показать, что вы "приличный" водитель, и получить скидку.

Дахвиц: Это хороший пример, здесь нужно спросить: хотим ли мы вообще такого стопроцентного контроля во всех сферах жизни? Кто никогда не превышал скорость на 5 км/ч? Кто никогда не переходил дорогу на красный свет? Хотим ли мы китайских условий, где любая мелочь змечается и используется против нас? Это ведь не то будущее, которое мы можем хотеть.

Что я сам могу сделать?

Можно отключить определение местоположения на смартфоне или запретить отслеживание рекламы, но это нужно делать. Или использовать альтернативы. Например, администрация Шлезвиг-Гольштейна полностью перешла на решения с открытым исходным кодом. Существует зарождающаяся контркультура. Мы должны устанавливать правила и одновременно открывать людям альтернативы.

Каждый должен решить, какой путь для него правильный. Мы можем кое-что сделать, чтобы ослабить власть техно-корпораций. Существует много инициатив, например, с прошлого года инициатива Digital Independence Day, в которой участвует и Марк Уве Клинг, известный многим как автор историй о кенгуру. Каждый месяц проходят региональные встречи, где конкретно помогают освободиться от Big Tech. (Примечание редакции: на странице Wechselrezepte вы найдете инструкции для первых шагов.)

В какой степени влияние корпораций в Европе или Германии уже контролируется или ограничивается?

Дахвиц: Существуют подходы, как с помощью регулирования заставить корпорации вести себя лучше и соблюдать правила, но достаточно ли Европа сильна, чтобы это обеспечить? Сейчас скорее выглядит так, что европейцы из соображений конкуренции, опасаясь отстать от США и Китая, делают меньше. Что сейчас делает Европейский союз: давайте ослабим наше технологическое регулирование. Это очень коварно, потому что Еврокомиссия говорит, что мы хотим сократить бюрократию и упростить, упростить правила. Они уже отложили правила ИИ, хотят ослабить и Общий регламент по защите данных, то есть сейчас они как раз отказываются от европейского пути, когда он нужен нам как никогда.

Мы видим только цифровое, но это развитие имеет последствия и в реальной жизни. Какие сферы особенно важны?

Дахвиц: Цифровое всегда кажется виртуальным, но у него есть сильное материальное измерение: нет облака без центров обработки данных, нет ИИ без человеческого труда. Например, потребление ресурсов в металлической отрасли, например, для микрочипов или батарей, огромно. Только 6-7% мирового потребления золота идет на техноиндустрию. Эти ресурсы становятся дефицитными и добываются в ужасных условиях, это часто уже известно.

Вы написали книгу для Brot für die Welt под названием "Цифровой колониализм". Что вы под этим понимаете?

Дахвиц: Сюда входят эксплуатация ресурсов и воздействие на окружающую среду, другая сфера — человеческий труд за ИИ. ИИ нуждается в больших данных, которые нужно обрабатывать. Их размечают метаданными. Эта работа аутсорсится. Техно-корпорации нанимают для этого компании-аутсорсеры. А те нанимают низкооплачиваемых так называемых клик-работников, прежде всего в странах Глобального Юга, которые обрабатывают эти данные.

Я могу привести конкретный пример с ChatGPT, который многим нравится. Но секрет ChatGPT не только в том, что бот может говорить умные вещи, но и в том, что он точно знает, чего говорить нельзя. Он не напишет нам оскорблений, не пришлет сексуальный контент, не будет угрожать, не опубликует жестокий контент, и это ему, я упрощаю, привили работники ИИ или работники данных в Найроби. Они день за днем читали тексты со всеми этими проблемными жестокими содержаниями и классифицировали их, чтобы модель машинного обучения это поняла.

"Можно представить, что с тобой происходит, когда целый день читаешь тексты об изнасилованиях или казнях и тому подобное."

Эти работницы рассказывают, что их оставили наедине с травмирующими последствиями. Можно представить, что это делает с человеком, когда он целый день читает тексты об изнасилованиях, видит казни и т.п. Они зарабатывали иногда менее двух долларов в день, и это совершенно колониальная модель, когда грязная, тяжелая работа аутсорсится людям в других странах.

Больше о цифровом колониализме вы можете прочитать, например, на сайте Brot für die Welt.