Генеративный ИИ, Африка и Евангелие

Генеративный ИИ (GenAI) становится самой быстро внедряемой технологией в истории.

Тем не менее, пока мир восхищается общением с машинами, мой континент, Африка, находится в знакомой ситуации: его народ эксплуатируется для подпитки технологической революции. В этом регионе выполняется большая часть невидимой и плохо оплачиваемой работы, которая лежит в основе глобального развития ИИ — маркировка данных и аннотирование, необходимые для того, чтобы сделать GenAI безопасным и удобным в использовании.

Писание учит нас, что «праведник заботится о справедливости для бедных, а нечестивцы не имеют такой заботы» (Прит. 29:7). Апостол Павел наставляет: «Господа, оказывайте рабам должное и справедливое, зная, что и вы имеете Господина на небесах» (Кол. 4:1).

Поэтому христианам следует выйти за рамки ажиотажа вокруг ИИ, критически изучить скрытые трудовые несправедливости в цепочке поставок ИИ и в молитве стремиться «поступать справедливо, любить милосердие и смиренно ходить с [нашим] Богом» (Михей 6:8) в условиях недостойного труда, который делает возможным развитие этой технологии.

Генеративный ИИ

ИИ — это не отдельная технология, а общий термин для слабо связанных систем, которые «обучаются» на основе данных, позволяя машинам выполнять задачи, которые обычно требуют человеческого интеллекта: от управления беспилотными автомобилями до фильтрации фишинговых писем в папки со спамом.

В рамках этого термина GenAI относится к системам, которые могут создавать новый контент, такой как текст, изображения, видео или код, путем изучения шаблонов из больших наборов данных обучения в ответ на запросы пользователей. Прорыв произошел в 2017 году, когда исследователи из Google опубликовали статью «Внимание — это все, что вам нужно», представив архитектуру трансформера, которая стала основой для больших языковых моделей и масштабируемых генеративных систем.

После выпуска ChatGPT в ноябре 2022 года GenAI стал публичным лицом искусственного интеллекта. Многие считают это «моментом iPhone» для ИИ, потому что он привнес технологию в общественное сознание и сделал ее именем нарицательным.

Африканцы эксплуатируются для подпитки технологической революции.

Легко понять, почему GenAI пользуется популярностью. Когда чат-бот на базе ИИ отвечает вам на естественном человеческом языке, создается впечатление, что он думает, понимает или даже чувствует. Теплота и дружелюбие, которые люди испытывают при общении с GenAI, не случайны, а являются результатом продуманного дизайна.

За кулисами работают специалисты по обработке данных, в основном из стран Глобального Юга. Их нанимают сторонние компании, заключающие контракты с крупными фирмами, занимающимися разработкой ИИ. Они должны обеспечить, чтобы результаты работы систем были полезными, правдивыми и безвредными. Эти работники следят за тем, чтобы при попытке пользователей получить доступ к контенту с элементами насилия, сексуального характера или гротеска система либо не отвечала, либо генерировала безвредный и уместный ответ.

Теперь мы обратим внимание на этих работников с данными, чтобы понять, не происходит ли несправедливость, о которой предупреждает Библия: «Не притесняй бедного, потому что он беден» (Прит. 22:22). Поскольку многие из нас используют чат-боты, мы должны спросить, почему это важно и как Священное Писание призывает нас реагировать.

Обработчики данных в сфере ИИ

Бог наделил глобальные компании, занимающиеся разработкой ИИ, огромной властью в формировании современного цифрового мира. Их усилия по предотвращению доступа пользователей к вредной информации, такой как инструкции по созданию ядерного оружия, заслуживают похвалы. Сердце человека крайне испорчено (Иеремия 17:9), и это акт великой общей благодати, что эти компании, по крайней мере, крупные, стремятся обуздать эту тенденцию, устанавливая меры защиты для контента, создаваемого этими мощными системами знаний.

Тем не менее, мы должны заглянуть под поверхность, чтобы понять, не угнетают ли работников, занятых в сфере обработки данных и обеспечивающих безопасность ИИ, чтобы увеличить богатство богатых (Прит. 22:16). В своей книге «Власть» Джонатан Лиман отмечает, что хорошая власть защищает уязвимых, укрепляет сообщества и способствует процветанию людей.

Этот принцип находит отражение в последних словах Давида в 2-й Книге Царств 23:3–4: «Когда человек правит справедливо над людьми, правит в страхе Божьем, он восходит над ними, как утренний свет, как солнце, сияющее в безоблачное утро, как дождь, который заставляет траву прорастать из земли». Учитывая это, мы должны спросить: «Является ли данная Богом власть, которой обладают глобальные компании, занимающиеся искусственным интеллектом, жизнеутверждающей или жизнеуничтожающей?»

Эксплуатация бедных, потому что они бедные

Африка должна создавать не менее 15 миллионов новых рабочих мест каждый год, чтобы удовлетворить потребности растущего числа молодежи. Эта острая потребность в рабочих местах создает благодатную почву для эксплуатации. Кремниевая долина уже давно передает свою самую грязную работу на аутсорсинг бедным странам Глобального Юга, где слабые институты, повторяющиеся экономические кризисы и правительства, отчаянно нуждающиеся в иностранных инвестициях (все это наследие колониализма), обеспечивают идеальные условия для такой практики.

В этих условиях в ноябре 2021 года компания OpenAI начала первый этап аутсорсинга аннотирования данных. Компания сотрудничает с Scale AI, которая помогает подготавливать данные для обучения ИИ. В рамках этого сотрудничества команды работников Scale AI в Найроби были вовлечены в травмирующую аннотацию и маркировку данных, получая в среднем от 1,46 до 3,74 доллара в час за просмотр сотен тысяч гротескных текстовых описаний.

Большинство из них были связаны строгими соглашениями о неразглашении и не знали, что работают на OpenAI. Карен Хао, журналистка, которая тщательно изучала проблемы африканских работников, занимающихся обработкой данных, отмечает, что обещание рабочих мест стало не столько путем к расширению прав и возможностей, сколько ловушкой, которая втягивает африканцев в унизительный, плохо оплачиваемый и психологически вредный труд.

Психологически вредный труд

Население Кении обладает относительно высоким уровнем образования, надежным доступом к Интернету и готовностью работать за скромную зарплату. Одной из отличительных черт быстро расширяющейся империи ИИ является ее способность извлекать огромную экономическую выгоду из огромных пулов человеческого труда, предлагая минимальную компенсацию взамен.

Как показывает Хао, эта новая форма цифровой эксплуатации разворачивалась с помощью данных, полученных из потоков Reddit, наборов данных Common Crawl, сайтов эротической фантастики, Pastebin, Twitter (теперь X) и Library Genesis, среди прочих. Наборы данных содержали описания сексуального насилия над детьми, зоофилии, изнасилования, инцеста и убийства — материалы, взятые из самых темных уголков Интернета, а в некоторых случаях даже сгенерированные собственными языковыми моделями OpenAI для имитации самых экстремальных сценариев, которые только можно себе представить.

Этот процесс грубо нарушил принципы «безопасности по умолчанию» и «благополучия по умолчанию», которые лежат в основе этической разработки программного обеспечения. Эти принципы подчеркивают защиту пользователей и работников от предсказуемого вреда путем внедрения безопасности и благополучия на каждом этапе разработки. Тем не менее, вместо того чтобы интегрировать психологические меры защиты или ограничить воздействие насильственных материалов, подрядчики OpenAI переложили эмоциональное и когнитивное бремя на кенийских работников, не оказывая им достаточной поддержки в области психического здоровья и не обеспечивая прозрачность.

Хао поговорил с Мофатом Окиньи, бывшим работником по обработке данных, который рассказал о том, что страдает от долгосрочной травмы, вызванной чтением откровенных, насильственных и дегуманизирующих материалов. Его история иллюстрирует, как «безопасность ИИ» в Кремниевой долине была построена на небезопасных и бесчеловечных методах труда за рубежом.

«В интересах человечества»

Эта модель была направлена не столько на обеспечение общественной безопасности, сколько на максимизацию прибыли и скорости в технологической гонке с высокими ставками. Стратегия аутсорсинга OpenAI, направленная на сокращение затрат и очистку продуктов для западных рынков, позволила компании сохранить видимость этической ответственности, скрывая эксплуатацию, лежащую в основе ее систем.

В результате экономические и психологические издержки были переданы на Глобальный Юг, а финансовые выгоды накапливались в руках элит Кремниевой долины. Эта динамика, отражающая логику экстрактивизма и цифрового колониализма, показывает, как стремление к тому, что компании ИИ описывают как создание ИИ «в интересах человечества», на практике углубило глобальное неравенство. Некоторые изображают ИИ как квазирелигиозный проект: технологию, предназначенную для обеспечения своего рода цифрового спасения или утопии для человечества.

Это должно особенно беспокоить христиан, потому что мы знаем, что болезни человечества не могут быть излечены технореволюцией. Наша проблема — это моральная проблема, для решения которой требуется безупречный Агнец Божий.

Болезни человечества не могут быть излечены технореволюцией. Наша проблема — это моральная проблема, которая требует безупречного Агнца Божьего в качестве своего лекарства.

Компании, занимающиеся искусственным интеллектом, уже давно оправдывают передачу своей самой изнурительной работы с данными странам с низким уровнем дохода, утверждая, что они предоставляют возможности для работы и вытаскивают людей из бедности. Тем не менее, эта защита отражает колониальную логику, используемую историческими угнетателями, которые утверждали, что «цивилизуют» тех, кого они эксплуатировали. Оправдание, что «по крайней мере, у них есть работа», перекликается с рационализацией рабовладельцев и колонизаторов, которые утверждали, что принудительный труд и имперское правление были актами доброжелательности.

Затем, в марте 2024 года, Scale AI уведомила своих кенийских работников об их удалении с платформы Remotasks по электронной почте, в которой говорилось: «Мы обращаемся к вам с важным объявлением о работе Remotasks в вашем регионе. Мы прекращаем работу в вашем текущем местоположении с 8 марта 2024 года».

В электронном письме не было никаких предупреждений или выходных пособий. Для многих это стало окончательным доказательством того, что присутствие компании в Кении никогда не было связано с расширением прав и возможностей, а только с дешевой, одноразовой рабочей силой. Это было не партнерство ради прогресса, а последнее проявление цифрового колониализма, когда Глобальный Юг снова нес бремя эксплуатации под знаменем технологического прогресса.

«Ты тот самый человек!»

Слово моим собратьям-африканцам: когда пророк Натан обличил царя Давида в его скрытом грехе, он рассказал ему притчу о несправедливости, которая вызвала гнев Давида. Затем он заявил: «Ты тот человек!» (2 Цар. 12:7). Но упрек Натана не останавливается на дворце. Он доносится до нас сквозь историю искупления.

Мы должны смиренно признаться: «Мы и есть тот человек». Распространенное искушение в постколониальном дискурсе — обвинять во всем Запад и гореть праведным негодованием в нашей жертвенности. Тем не менее мы должны признать, что мы тоже соучастники. Мы продавали наших братьев и сестер за безделушки и монеты во время работорговли. Даже сейчас наши лидеры продолжают выполнять приказы посторонних, обогащая себя, увековечивая те самые системы, которые держат наши страны бедными и разделенными.

Колониализм оставил неизгладимый след не только из-за того, что с нами сделали, но и в значительной степени из-за того, что мы продолжаем делать с собой. И на индивидуальном уровне я — человек, который совершает несправедливость по отношению к своему брату, заслуживая гнев святого Бога.

Благовестие приносит лучшие новости! Гораций Бонар написал в гимне: «На жизнь, которой я не жил, / На смерть, которой я не умер, ... / Я ставлю на кон всю свою вечность». Даже Джон Ньютон — торговец рабами, ставший проповедником и написавший «Удивительную благодать», —признался на смертном одре: «Моя память почти ушла. Но я помню две вещи: что я великий грешник и что Христос — великий Спаситель».

Мы люди, но Сын Человеческий говорит слово, которое лучше, чем несправедливость и жестокость, которые мы совершаем друг с другом. Как пишет Б. Б. Уорфилд: «Твердая вера во вселенское провидение Бога — это решение всех земных проблем».

Так что не унывайте, африканцы. Наши грехи могут быть красными, как пурпур, наше соучастие глубоко, а наши неудачи многочисленны, но если мы обратимся ко Христу, даже сейчас, он сделает нас белыми, как снег.

Бог по-прежнему благ

И последнее слово христианам в сфере технологий: благая весть Евангелия не в том, что с нами наконец-то будут обращаться справедливо в нашей работе. Благая весть заключается в том, что Бог пришел во плоти и умер за наши грехи, и тем самым создал новое человечество, отмеченное плодами Святого Духа во всех его делах, включая труд. Поэтому мы призваны к особенно высоким стандартам работы, «чтобы во всем [мы] могли украшать учение Бога, нашего Спасителя» (Титу 2:10).

Сын Человеческий говорит лучшее слово, чем несправедливость и жестокость, которые мы совершаем друг с другом.

Работа существовала до грехопадения; она имеет присущее ей достоинство от Создателя. Работа пала; мы неизбежно будем испытывать трудности в ней. Труд был искуплен Христом; теперь мы можем трудиться для Господа и прославлять Бога через свое призвание. И работа будет существовать на новых небесах и новой земле: «Разве не знаете, что мы будем судить ангелов?» (1 Кор. 6:3). Работа, наконец, будет завершена, когда будет снято проклятие этого падшего и злого мира. Тогда мы будем работать так, как должны: со всем достоинством и радостью, которые изначально предназначались для работы, в присутствии нашего работающего Бога.

Это звучит правдоподобно, независимо от того, изменят ли глобальные компании ИИ свои методы или нет. Если они это сделают, хвала Богу. Если нет, хвала Богу.

Как Шадрах, Мешах и Аведнего в 3-й главе книги Даниила, мы знаем, что Бог способен спасти нас от эксплуататорских тенденций в нынешней гонке ИИ, но даже если Он этого не сделает, Он по-прежнему будет нашей частью. Он остается добрым. И однажды Он все исправит.