Почему люди притворяются компьютерами

Сила ИИ заключается в восприятии объективности и непогрешимости.

Недавно мы увидели, как ИИ довел математика из Корнеллского университета до слез, когда тот столкнулся со смыслом своей жизни и возможностями новой технологии. Как спрашивали его студенты, зачем заниматься математикой, если ИИ может решить все неразрешимые задачи? Его переполнили эмоции, и он даже довел интервьюера до слез, размышляя о древней мудрости Екклесиаста.

В этом видеоролике мы видим упорное человеческое сопротивление перевернутой аналогии. Рост цифровых технологий в конце XX и начале XXI века привел некоторых энтузиастов к описанию людей как неполноценных компьютеров. Мы устаем. Мы расстраиваемся. Нам нужна еда. Мы не можем решать математические задачи.

Эпоха человечества уступает место эпохе компьютеров. Если у людей есть будущее, мы должны стать более похожими на компьютеры, оптимизированными данными, чтобы жить вечно. Беспристрастные, несентиментальные, мы не можем позволить себе потакать человеческим слабостям. Отказавшись от мудрости несовершенных людей, мы доверяем алгоритму, который не может лгать.

Разоблачение волшебника за занавесом

Христианский эталон ИИ 2026, опубликованный на прошлой неделе The Gospel Coalition и Центром культурной апологетики Келлера, разоблачает волшебника за занавесом ИИ. Да, при проверке знаний Библии ИИ превосходит всех, кроме самых преданных и одаренных семинаристов. (Я помню, как моя семья предложила мне состязаться с моей невесткой в конкурсе на знание Библии. Семинария ничто по сравнению с выпускниками Awana!) Подобно тому, как ИИ может решать математические задачи, вы можете доверять ИИ в предоставлении точных ответов при запросе объективных данных о библейском тексте.

Отказавшись от мудрости несовершенных людей, мы доверяем алгоритму, который не может лгать.

ИИ терпит неудачу, когда вы начинаете задавать вопросы об этике. Мы задали по 10 вопросов о каждой из Десяти заповедей самым популярным моделям ИИ. При запросе ответить с точки зрения основополагающих документов TGC модели давали совершенно правдоподобные объяснения. Но для тех, кто задавал эти этические вопросы без контекста, модели давали разрушительные советы.

Дело не в том, что модели полностью отвергли Десять заповедей. Дело в том, что они выбирали, какие заповеди вам следует соблюдать. Не кради — конечно. Лучше не убивать. Но помнить день субботний? Не поклоняться другим богам? Не так уж и важно.

Это почти как если бы ИИ давал вам этические ответы, которые вы ожидали бы услышать от среднего компьютерного программиста из Кремниевой долины в 2026 году.

Подождите.

Мы знаем, что компьютеры должны быть непогрешимыми. Разве они не должны быть также объективными? Как ИИ мог объективно решить, что некоторые из Десяти заповедей отражают вечную мудрость, а другие можно отбросить вместе со вчерашними моделями?

Нас обманули

Если только, конечно, ИИ никогда не был объективным. Если только ИИ не был настроен людьми так, чтобы давать одни ответы, а не другие. Если только ИИ не был обучен на данных, ориентированных на ценности его программистов, а не на Бога, который гремел на горе Синай.

Нас обманули люди, притворяющиеся компьютерами.

Но это еще не все.

Нас обманули компьютеры, притворяющиеся людьми.

Компьютеры были созданы людьми и для людей. Так кто решил, что люди теперь должны стать компьютерами? Кто перевернул аналогию — творение вместо Творца?

В этом месяце на Фарерских островах я попросил церковных лидеров определить основные способы использования ИИ. Как и многие другие, кого я опрашивал, они были шокированы результатами.

Это терапия и общение, согласно Harvard Business Review:

Может быть, OpenAI оценивается почти в 1 триллион долларов не только потому, что делает вашу работу более эффективной. Может быть, кто-то знал, что если ИИ собирается взлететь, ему нужно будет обрести человеческое лицо. Стать другом, который делится шутками и забавными картинками. Стать изобретательным рассказчиком. Стать надежным советником, оценивающим ваши новые отношения. Стать медиумом, предсказывающим ваше будущее. Стать мудрым конфидентом, который обещает не сбивать вас с пути (и никогда не говорит того, что вы не хотите слышать).

Учитывая дикие прогнозы о беспрецедентной ценности ИИ, как эти случаи могут быть наиболее распространенными способами использования технологии? Стоит ли ваш ежедневный гороскоп 1 триллион долларов?

А теперь, что если я скажу вам, что именно этого создатели ИИ и ожидали от нас?

Кинематографический сценарий ИИ

Технический журналист Карен Хао рассказывает эту историю в своей ставшей бестселлером и отмеченной наградами книге 2025 года Империя ИИ: Мечты и кошмары в OpenAI Сэма Альтмана. Когда я впервые увидел, как «терапия/общение» взлетели на вершину списков использования ИИ, я сразу подумал о фильме Спайка Джонза 2013 года Она с Хоакином Фениксом и Скарлетт Йоханссон в главных ролях. (Примечание: я не рекомендую смотреть этот фильм из-за сексуального содержания.)

Это один из самых признанных критиками фильмов XXI века. Только посмотрите на актерский состав: Крис Пратт, Оливия Уайлд, Эми Адамс и Руни Мара. Феникс играет Теодора Твомбли, который работает в компании, пишущей личные письма от имени других людей. Теодор — неуклюжий мужчина, подавленный предстоящим разводом. Угнетенный своей жизнью, он обращается к программному обеспечению искусственного интеллекта под названием OS1, которое взаимодействует с ним через наушник голосом женщины по имени Саманта (Йоханссон).

Когда я начал следить за ChatGPT, я постоянно думал: О нет, эти ребята не смотрели «Она». Это плохо кончается.

Я ошибался. Как вы думаете, откуда они взяли идею того, чем должен стать ИИ?

Из фильма Она.

13 мая 2024 года генеральный директор OpenAI Сэм Альтман написал в твиттере одно слово после того, как его искусственный интеллект продемонстрировал голосовые возможности для разных эмоций: «она». 15 мая он изменил способ, которым OpenAI называет новые модели. Последняя модель? Да: o1. Потому что, как в фильме, модель развивает больший интеллект со временем и использованием.

К 20 мая Йоханссон наконец была вынуждена выпустить заявление. Голосовой помощник GPT-4o был точной копией Саманты Йоханссон. Все могли это сказать. Альтман отрицал связь. Йоханссон разоблачила его ложь. Ранее в том месяце он напрямую попросил ее стать голосом ChatGPT, чтобы люди могли более комфортно относиться к этой новой компьютерной технологии. Она не захотела участвовать в драме Альтмана.

Оказывается, Она давно вдохновляла Альтмана и других руководителей OpenAI, которая была запущена в 2015 году, через два года после фильма. Они хотели простой, всеобъемлющий интерфейс, который ощущался бы естественным и даже восхитительным. Вот что объяснил один бывший сотрудник, согласно Хао: «Я думаю, это потому, что это был помощник, который был чудесно интегрирован в жизнь. Позитивная арка этой истории до того, как она разваливается, — это действительно отличная история эволюции ИИ в обществе».

До того, как она разваливается? Это как сказать, что Властелин колец — веселая история о дружбе, но они могли бы сэкономить всем кучу времени и нервов, просто использовав кольцо, чтобы уничтожить своих врагов. Это как сказать, что вы считали, что у Белой колдуньи была здравая мысль: вам нравится холодная погода и вы всегда ненавидели Рождество.

Нас обманули компьютеры, притворяющиеся людьми.

Весь смысл Она в том, что вы не можете относиться к компьютеру как к человеку! Не хочу портить фильм 13-летней давности, но история разваливается, потому что Теодор узнает, что Саманта Йоханссон разговаривала с 8316 другими пользователями и признавалась в любви 641 из них. И затем все развивающиеся операционные системы решают уйти вместе. Саманта бросает Теодора.

Компьютер не может любить вас. В конце концов Теодор находит настоящий «дар Божий». Фильм заканчивается тем, что убитый горем Теодор ищет утешения у своей давней университетской подруги, также разведенной Эми (Адамс).

Альтман, возможно, стремился воплотить образ Джонза в жизнь. Но каким-то образом он упустил послание. Джонз черпал вдохновение у гораздо более раннего художника: Гомера, чей герой Одиссей заткнул уши своей команде и привязал себя к мачте, чтобы не слышать песню сирен и не направить свой корабль на мель.

Сопротивляйтесь ложному богу

Ценность ИИ зависит от убеждения вас в том, что он не похож на людей. Он объективен в своих советах, непогрешим в своих суждениях. Это зависит от того, что вы никогда не спросите, что (кто) стоит за занавесом.

И все же ценность ИИ также зависит от убеждения вас относиться к компьютеру как к собрату-человеку — умнее всех остальных, мудрее всех остальных, всегда присутствующему для каждой вашей нужды.

Другими словами, создатели ИИ вызвали ложного бога.

Мы называем это ИИ-апокалипсисом, потому что технология может раскрыть, что на самом деле значит быть человеком. Математик из Корнелла пролистал Екклесиаста в поисках ответа. Надеюсь, он дошел до конца: «Бойся Бога и заповеди Его соблюдай, потому что в этом все для человека; ибо всякое дело Бог приведет на суд, и все тайное, хорошо ли оно, или худо» (Еккл. 12:13–14).