«Социальное возмездие» не до конца осознаёт проблему

«Социальное возмездие» (рейтинг R за ненормативную лексику) открывается «прологом», в котором пьяная белая женщина ссорится с двумя полицейскими из меньшинств. Женщина извергает ненавистнические и расистские оскорбления в их адрес, а затем снимает часть стычки на телефон. Она публикует видео в Facebook как доказательство нарратива о «полицейских по программе DEI»; оно становится вирусным, лакомым куском для её правой аудитории.

Позже мы узнаём, что эта безымянная женщина всего несколько лет назад была политически прогрессивной, но была «радикализирована» вправо алгоритмом Facebook примерно в 2019–20 годах. В неловкий момент ближе к концу фильма мы видим, как эта женщина снова появляется в составе толпы, штурмующей Капитолий США 6 января 2021 года.

Сценарист и режиссёр Аарон Соркин открывает фильм этой зарисовкой, чтобы предложить кейс о реальных последствиях алгоритмов Facebook/Meta, которые фильм затем исследует глубоко. Но примечательно, что деформация этой женщины в сети изображается в основном как политическая и в направлении «слева направо».

Для Соркина — который со времён «Западного крыла» не скрывал своих прогрессивных взглядов — главная проблема Facebook не духовная деформация, а политическая радикализация (в одном направлении). И именно поэтому этот фильм, дополнение к «Социальной сети» 2010 года (написанной Соркиным, но снятой Дэвидом Финчером), уступает в силе своему предшественнику.

Если «Социальная сеть» ощущалась зловещей, молодой, крутой и философски проницательной, то «Социальное возмездие» кажется менее актуальным и временами откровенно банальным («Она вносит разлад» — до того натянутая реплика). Как и Facebook в целом — наиболее активно используемый бумерами, мало используемый поколением Z — фильм оторван от технологического духа времени следующего поколения.

Как и Facebook в целом — наиболее активно используемый бумерами, мало используемый поколением Z — фильм оторван от технологического духа времени следующего поколения.

Дело не в том, что проблемы, поднятые Соркиным, не реальны. Они реальны. Дело в том, что его фильм обрамляет эти проблемы политически так, что это уменьшает их полный масштаб и упрощает потенциальные решения. В некотором смысле Соркин становится жертвой проблемной динамики, на которую указывает его фильм. Социальные алгоритмы приучили нас фильтровать всю реальность через призму нашего укоренившегося политического нарратива. В своём изложении истории Facebook Соркин делает то же самое.

Старомодная драма о разоблачителе

«Социальное возмездие» следует знакомому нарративу о разоблачителе, в котором сотрудница Facebook Фрэнсис Хауген (Майки Мэдисон) объединяется с журналистом-расследователем Wall Street Journal Джеффом Хорвицем (Джереми Аллен Уайт), чтобы разоблачить Facebook за сознательное сокрытие негативных общественных последствий своих платформ. Хауген тайно сливает внутренние документы, которые помогают Хорвицу построить свою историю — серию статей, ставшую известной как «Файлы Facebook».

Джереми Стронг играет Марка Цукерберга (заменив Джесси Айзенберга, который играл «Цука» в «Социальной сети», но отклонил приглашение Соркина повторить роль) с холодной, роботизированной отстранённостью, которая кажется неоправданно карикатурной. В то время как Хауген и Хорвиц изображены как герои, современные Вудворд и Бернстайн — Давиды против пресловутого Голиафа, Цукерберг предстаёт как законченный корпоративный злодей, всегда ставящий прибыль выше даже вреда пользователям. Всё это кажется слишком простым.

Платформы, а не судьи

Хотя сюжет журналистского расследования иногда захватывает, выдающиеся сцены в «Социальном возмездии» — это моменты словесных дуэлей (творческая сильная сторона Соркина), в которых Цукерберг спорит с другими о природе свободы слова и корпоративной ответственности.

Цукерберг называет себя «абсолютистом свободы слова» и говорит о своих платформах (Facebook и Instagram): «Мы — пробковая доска. Нам всё равно, что люди прикалывают к ней». Он ссылается на Раздел 230 федерального закона США, который защищает онлайн-платформы и сайты от ответственности за контент, размещённый пользователями или третьими лицами.

Цукерберг отказывается от призывов проверять факты в политической рекламе на Facebook или играть роль судьи в определении того, какой контент допустим, а какой нет. «Facebook не судья!» — говорит он в какой-то момент. «Мы — публичная площадь».

Но его критики — главным образом бывший советник Чарли (Билл Бёрр) — возражают, утверждая, что алгоритмы Facebook, особенно после оптимизации под «значимое социальное взаимодействие (MSI)», представляют собой «пожарный шланг дезинформации», который «становится реактивным, гидравлическим».

Чарли говорит Цукербергу, что его платформа «превращает доверчивость в товар» (отличная фраза!) и безответственно наживается на алгоритмах, ускоряющих дезинформацию, возмущение, теории заговора и радикализацию.

«Ты как регулировщик, стоящий перед школой, но ты ничего не делаешь руками, — говорит Чарли. — Так что машины просто давят детей».

В другой сцене Хауген описывает, как первоначальное обещание Facebook было «демократизацией» и «дать всем голос», на что Хорвиц отвечает: «Хотя у всех нас есть голос, не все заслуживают микрофона». Он ссылается на важность квалификации (например, быть обученным журналистом) и переклиается с тем, о чём сокрушается Том Николс в своей книге 2017 года «Смерть экспертизы».

Но хотя проблемы нерегулируемого онлайн-мира, подпитываемого проблемными алгоритмами, очевидны в «Социальном возмездии», решения — нет.

Кто решает, кому достаётся микрофон?

Может быть, и правда, что «не все заслуживают микрофона», но кто принимает это решение? Соркин, возможно, неявно предлагает правительство в качестве решения в вид более жёсткого регулирования и контроля контента. Но он и все остальные хотели бы, чтобы эту роль играла только их «сторона» правительства — и это неизбежно выродилось бы в партийную цензуру.

Что, если бы Facebook и подобные платформы были вынуждены сами играть роль «судьи»? Решило бы проблему отмена Раздела 230 и возложение на технологические платформы большей ответственности за вопрос «микрофона»? Нет. Это передало бы огромную власть в руки нескольких изначально предвзятых людей, чьи решения о том, что допустимо, а что нет, были бы произвольными.

Любая форма цензуры или подавления контента — даже под видом «проверки фактов» — имеет ограниченную ценность и часто даёт обратный эффект, поселяя семена подозрения и подпитывая теории заговора. К проблеме добавляется реальность того, что не раз «квалифицированный» или «контролирующий» медиакласс ошибался и распространял ложь, в то время как высмеиваемые «теоретики заговора» (скажем, о теории утечки из лаборатории COVID-19) могли быть правы.

Да, проблема «у всех есть микрофон» создаёт хаос. Но хаос наиболее проблематичен не потому, что он политически взрывоопасен (хотя это так), а потому, что он эпистемологически разрушителен. Беспорядочная дискурсивная динамика, порождённая социальными алгоритмами, подрывает доверие, ухудшает критическое мышление, играет на страхах (думскроллинг) и искажает наши души.

Все мы формируемся таким образом — не только люди определённых политических убеждений.

Проблема слева и справа

Это очевидное затемнение в «Социальном возмездии», которое, что примечательно, достигает кульминации 6 января. Все примеры радикализации под действием алгоритмов у Соркина связаны с людьми, становящимися крайне правыми. Действие фильма происходит в первые годы пандемии COVID-19, и он показывает агрессивную женщину на кассе в супермаркете, отказывающуюся носить маску, и техно-бро из Сан-Франциско, ссылающегося на ошибочную онлайн-теорию.

Не раз «квалифицированный» медиакласс ошибался и распространял ложь.

А как насчёт многих прогрессистов, радикализированных ещё дальше влево их собственными пузырями пандемической дезинформации (некоторые из которых всё ещё носят маски на улице шесть лет спустя)? Почему фильм не признаёт ни одного примера левых экстремистов, чья алгоритмическая формация радикализировала их до насилия (например, трое потенциальных убийц президента Трампа или убийца Чарли Кирка)?

Алгоритмы социальных сетей радикализируют людей со всех сторон. Это двухпартийная проблема, а значит, любое политическое решение должно быть двухпартийным. Но если только мы не говорим о законах о проверке возраста, узко направленных на защиту детей, я не думаю, что политика будет наиболее эффективным путём решения продолжающихся проблем социальных сетей (а теперь и ИИ).

Мудрость снизу вверх, а не цензура сверху вниз

Даже если на технологические компании будут наложены более строгие государственные регулирования, в конечном счёте наиболее эффективным агентом изменений будет давление рынка и меняющееся общественное мнение.

Мы начали видеть это в последние несколько лет, поскольку влиятельные книги, такие как «Тревожное поколение» Джонатана Хайдта или недавняя «Девочки®» Фрейи Индии, представляют отрезвляющие отчёты о том, насколько плохи были последствия этих технологий — особенно для молодых людей. Всё больше школ переходят на минимальное использование технологий или отказываются от них, поощряемые такими организациями, как недавно запущенный Центр ответственных технологий. Вышедший этим летом «История игрушек 5» показал, как скептицизм по отношению к технологиям стал нормой — особенно среди родителей-миллениалов и поколения Z.

В рамках недавнего урегулирования иска на 17 миллиардов долларов о вредных поседствиях своих продуктов для молодых людей Meta внесла ряд позитивных изменений в то, как молодые люди взаимодействуют с Facebook и Instagram. Правовое давление и давление общественого мнения могут действительно приводить к изменениям.

Но это не только проблема молодых. Бабушки и дедушки-бумеры, возможно, сегодня наиболее деформированы Facebook. Так что инициативы по «защите молодёжи» помогают решить лишь одну грань проблемы.

В конечном счёте лучшая защита от худших вредных воздействий этих платформ — это мудрость людей, которые ими пользуются. Здесь церковные лидеры и христианские инфлюенсеры могут сыграть важную роль — наставляя людей всех возрастов к мудрости в их повседневных привычках скроллинга.

В конечном счёте лучшая защита от худших вредных воздействий этих платформ — это мудрость людей, которые ими пользуются.

Это то, что мы пытались делать в The Gospel Coalition с такими книжными проектами, как «Скроллинг до смерти» и только что опубликованный «ИИ-апокалипсис: руководство по выживанию для человечества». От идолопоклонства перед телефоном до ИИ-компаньонов и кризиса чтения мы регулярно исследуем последствия этих технологий в надежде дать инструменты для мудрости в цифровую эпоху.

Но помимо предупреждения о духовных опасностях экранов, алгоритмов и ИИ, также жизненно важно представить позитивный аргумент в пользу офлайн-жизни и реальных человеческих связей. Как мы можем дать молодым людям сегодня видение жизни, более привлекательное, чем просмотр «контента» онлайн и погружение в подпитываемый алгоритмами, отупляющий скроллинг? В то время, когда большинство молодых людей охотно признают, что их телефоны в основном подсовывают ИИ-мусор и «гниль для мозга», кажется, они жаждут альтернатив. Это то, что я попытался предложить в «Пирамиде мудрости»: идеи о том, как питать свою душу более полезной пищей, чем скроллинг фастфуда.

Вместо регулирования платформ нам следует сосредоточиться на переобучении привязанностей пользователей. Как мы можем побуждать друг друга уходить в офлайн и выходить на улицу, общаться с друзьями лицом к лицу, а не через личные сообщения в Instagram? Любить локальное, воплощённое и реальное больше, чем любые дофаминовые иллюзии, которые производит алгоритм?

«Социальное возмездие» — во многом как документальный фильм Netflix «Социальная дилемма» — сильнее в назывании проблем, чем в предложении решений. Величайшее «возмездие» этим технологиям будет работой, которую мы все возьмём на себя, каждый день, в домах, церквях, классах и кофейнях, побуждая друг друга отвоевать жизнь у алгоритма.