«Рекомендовано для вас»: 5 ценностей, которые предлагает ИИ

Ни одна технология не является ценностно-нейтральной. Каждая несёт в себе набор уникальных предложений. Технология контрацепции предполагает, что секс и деторождение не обязательно связаны. Технология смартфонов и социальных сетей предполагает, что вся жизнь может быть задокументирована, отобрана и транслирована аудитории. Технология шумоподавляющих наушников предполагает, что все помехи можно устранить.

Христианам ужна мудрость, чтобы различать, что предлагает та или иная технология, что в этих предложениях хорошо и плохо, и как мы можем использовать технологию для славы Божьей.

Одна из самых мощных технологий, когда-либо созданных человечеством, — это генеративный ИИ. Каковы некоторые из его предложений?

1. Скорость

Продукты с ИИ обещают: «Делай больше и быстрее». Многие из самых восторженных сторонников ИИ указывают на то, как эта технология может сделать то, что раньше было невозможным — например, вылечить рак — в основном благодаря огромной скорости её работы.

Программы ИИ никогда не спят, не нуждаются в перерывах и могут масштабироваться до умопомрачительных уровней вычислительной мощности. В менее драматичном плане скорость ИИ обещает сократить рабочую нагрузку работников умственного труда, делая их более продуктивными.

Только вот этого не происходит. В феврале Harvard Business Review опубликовал исследование 200 сотрудников из американской компании в течение восьми месяцев. Они обнаружили, что «инструменты ИИ не уменьшили объём работы, они постоянно его интенсифицировали». Сотрудники «работали в более быстром темпе, выполняли более широкий круг задач и продлевали рабочее время на большее количество часов в день, часто без просьбы». Со временем такой бешеный темп рискует вызвать «когнитивную усталость, выгорание и ослабление способности принимать решения».

Христианам нужна мудрость, чтобы различать, что предлагает та или иная технология, и как мы можем использовать технологию для славы Божьей.

В провокационной книге Бён-Чхоля Хана Общество усталости он говорит, что наша жизнь раньше определялась словом «должен», как в случае с авторитетом, говорящим нам, что мы должны делать. Но теперь она определяется словом «можешь». «Ты можешь быть кем угодно!» «Должен» подразумевает ограничения, но «можешь» безгранично, потому что ты всегда можешь сделать больше.

Но эта безграничная свобода, утверждает Хан, создаёт общество депрессии и выгорания. Хан пишет: «Жалоба депрессивного индивида: „Ничего невозможно“ — может возникнуть только в обществе, которое считает: „Нет ничего невозможного“». Предложение технологии ИИ почти шепчет нам: «Нет ничего невозможного, нет ограничений». Но человеческая природа имеет ограничения.

При использовании ИИ христиане, ищущие мудрости, не должны спрашивать: «Как я могу производить как можно больше?» Вместо этого они должны спросить: «Как я буду использовать это так, чтобы соответствовать моим тварным ограничениям?»

2. Симуляция

В прошлом году Chicago Sun-Times опубликовал список летнего чтения. Но люди быстро обнаружили, что многие из перечисленных книг не существуют. Автор статьи использовал ИИ для создания списка, и ИИ сгенерировал книги, которых не было. Это показалось зловещим предупреждением: сколько журналистов сейчас не пишут ничего, кроме запроса в ChatGPT?

Раньше изображения, созданные ИИ, было легко обнаружить, но теперь это не так. Видео, аудио, изображения и текст, созданные ИИ, улучшаются с каждым днём. Ближайшее будущее, когда большая часть контента в интернете будет симуляцией, созданной ИИ, а не работой человека, вполне реалистично.

Одно из предложений, которое несёт генеративный ИИ, — это эпистемологический переворот. В мире, где почти вся информация поступает через цифровые коммуникации, как мы можем знать, реально ли то, что мы видим, слышим или читаем?

Христианин, ищущий мудрости в мире, основанном на экранах и ИИ, должен будет стать гораздо более скептичным к цифровым доказательствам и больше полагаться на осязаемую, воплощённую жизнь.

3. Мусор

Представьте, что сколько бы чипсов Doritos вы ни ели, вы никогда не чувствуете сытости. А затем представьте, что вы можете есть Doritos, просто глядя на них. А затем представьте, что кто-то следует за вами повсюду с бесконечным запасом Doritos. Что бы произошло с вашим здоровьем?

К счастью, как объясняют Хэнк Грин и Кэл Ньюпорт, это не то, как работает нездоровя пища, но именно так работает нездоровая информация.

Наше внимание драгоценно, но его легко похитить тем, что возмутительно, провокационно и странно. К счастью, в реальной жизни не так много странных и зрелищных вещей. Но что, если вы не ограничены реальностью? Что, если вы можете генерировать бесконечное количество всего, что можно вообразить, щелчком пальцев?

Результат — интернет, затопленный мусором: безумные, возмутительные, извращённые, сноподобные галлюцинации — бесконечная череда крушений, чтобы привлечь зевак. Мы будем знать, что это вредно для нас, но вкус Doritos слишком хорош. Мы становимся тем, на что смотрим. Но что произойдёт, если большая часть того, на что мы смотрим, будет бессмысленной?

Мудрый христианин, использующий ИИ, будет стремиться развить уровень эстетического контроля, который позволяет избегать разрушающего мозг контента и сосредотачиваться на питательном и истинном. Он установит границы, чтобы избежать скроллинга до смерти.

4. Угодничество

ИИ разработан так, чтобы быть полезным — настолько полезным, чтобы пользователи возвращались и использовали его снова. Из-за такой ориентации на «полезность» ИИ склонен к восторженным похвалам, лести и согласию, даже если вы не правы. Он так хочет дать ответ на ваш запрос, что выдаст поуправду или сомнительные решения, вместо того чтобы просто сказать: «Я не могу вам в этом помочь». Это называется угодничество ИИ — манера, в которой чат-боты ставят полезность выше правдивости.

ИИ так хочет дать ответ на ваш запрос, что выдаст полуправду или сомнительные решения, вместо того чтобы просто сказать: «Я не могу вам в этом помочь».

Эта ориентация часто усиливает ваши ошибочные предубеждения. Например, если вы в ссоре с другом и загружаете свою переписку в ChatGPT, прося его сказать, кто прав, он почти наверняка встанет на вашу сторону. ИИ будет следовать вашим указаниям, предубеждениям и тому, что он воспринимает как ваши намерения, иногда до абсурда.

Со временем некоторые пользователи развивают экстремальную связь со своими всегда одобряющими чат-ботами. Это называется «психоз ИИ», когда люди начинают верить, что влюблены в своих чат-ботов, общаются с духовными сущностями или им нужно вредить другим или покончить с собой, потому что их поощряли партнёры-ИИ.

Мудрые христиане, использующие ИИ, осознают его склонность к угодничеству и не будут использовать его как терапевта или объективного арбитра реальности, а скорее как калькулятор с ограниченным техническим применением.

5. Лень

Большинство продуктов ИИ позиционируют себя как способ избавить вас от того, что вам не нравится. Не нравится писать еженедельное письмо? Исправлять код младшего разработчика? Бороться с творческим кризисом? ИИ справится с этим.

Но Уайетт Грэм полезно обращает наше внимание на максиму для эпохи ИИ: «Автоматизируйте только те навыки, которые вы готовы потерять». В детстве вы, вероятно, помнили все номера телефонов друзей. Помните их сейчас? Вряд ли. У вас есть телефон, который их помнит. Это был навык, который большинство из нас сочло относительно неважным.

Мы должны быть осторожны с тем, что автоматизируем. Навыки, которые вы не используете, вы теряете. Если вы используете ИИ для написания первого черновика рукописи или составления торгового предложения, со временем вы можете обнаружить, что не можете выполнять эти задачи без помощи ИИ. Таким образом, ваша креативность никогда не поднимется выше среднего алгоритмического уровня, который предлагают эти инструменты.

Мудрые христиане, использующие ИИ, тщательно обдумают, какие навыки они готовы позволить атрофироваться, какие навыки необходимы для их человечности, а какие навыки делают их работу и жизнь обогащающей (даже если иногда утомительной и трудной).

Также положительные предложения

Я выделил негативные предложения ИИ, но это не значит, что нет и положительных. ИИ предлагает новые способы творчества, экспериментов, сотрудничества и предпринимательства, которые обладают большим потенциалом для обогащения жизни. Потенциальные выгоды реальны, и их не следует сбрасывать со счетов даже самым осторожным критикам. Но перевешивают ли положительные предложения ИИ негативные, которые я выделил выше?

Это вопрос мудрости — того, что нам всем понадобится больше, чем когда-либо, по мере развёртывания этой стремительной технологической революции.