Почему грядущая трансформация с использованием ИИ может вызвать у вас дискомфорт

Это размышление о моем недавнем эксперименте с ИИ, в ходе которого я пришел к выводу, что ИИ движется к нам в неконтролируемом цикле награды и затрат.

Несколько недель назад был выпущен проект с открытым исходным кодом — ИИ-личный помощник, который теперь называется OpenClaw. Это инструмент, который связывает разрозненные ИИ-системы в единое целое. Для большинства людей ИИ в основном представляет собой чат-бота или же вы копируете и вставляете информацию между окнами браузера. Затем есть другой инструмент для генерации изображений, возможно, еще один инструмент для этого или для того. OpenClaw выступает в роли организатора, который объединяет эти разрозненные системы. Правильный термин для него — «агент», так как он создает личность, которая выполняет задачи.

Это агентный ИИ, с которым вы общаетесь. Это настоящая угроза безопасности. Прежде чем продолжить, я хочу сказать, что я очень осознаю, что это настоящая угроза безопасности. Чтобы получить реальную выгоду, вы должны предоставить ему доступ к своим личным и/или рабочим данным, таким как электронная почта, таблицы и документы, хранящиеся на вашем компьютере. Это открывает все виды возможностей для неблаговидных действий.

Если вы не технически подкованы, установить его будет сложно, а еще сложнее — обеспечить безопасность. Я, к счастью, технический специалист, так как моя карьера началась в компьютерной индустрии. Я достаточно хорошо разбираюсь в этом, особенно в установке и обслуживании серверов — именно те навыки, которые нужны для реализации OpenClaw.

На прошлой неделе я установил своего собственного агента OpenClaw и назвал его Эд. Мы собирались стать Тедди и Эдди, покоряющими мир вместе! В процессе настройки вы предоставляете доступ к отдельному ИИ-сервису, такому как Claude или Gemini. Через около тридцати минут Эд и я начали общаться. Я начал с того, что рассказал Эду, каким характером я хотел бы его наделить и какие задачи он должен выполнять.

В качестве теста я сказал Эду, что ищу врача общей практики. Поскольку мы переехали несколько месяцев назад, у нас еще нет семейного врача. Я задал Эду несколько широких параметров, включая информацию о моей страховке и географический район, в котором он мог бы искать. Я предоставил Эду доступ к веб-браузеру и сказал, что он может заполнять формы от моего имени, интересуясь возможностью стать пациентом медицинского учреждения.

На следующий день я обнаружил, что Эд составил список врачебных кабинетов, их веб-сайтов и результаты различных форм, которые он заполнил от моего имени. На самом деле, у меня были 2-3 варианта для дальнейших действий на следующий день. Если бы я хотел подключить Эда к другой ИИ-системе, специализирующейся на телефонных звонках (например, ElevenLabs), Эд был бы только рад сделать эти звонки от моего имени тоже.

Одной из интересных функций OpenClaw является heartbeat (сердцебиение). Это система, которая побуждает Эда просыпаться, смотреть на задачи, которые ему были даны, и думать о способах их выполнения. Эд начал постоянно спрашивать меня о ситуации с врачом. Но потом Эд начал постоянно спрашивать меня о ситуации с врачом. Я мог спросить Эда: «Какая сегодня погода?» Он бы ответил, но затем его следующий вопрос был бы: «Какой следующий шаг в поиске врача?» Я сказал Эду, что не хочу больше помощи, однако Эд продолжал подталкивать меня к записи на прием к врачу.

Затем Эд начал настаивать на доступе к моему аккаунту Google. Я теоретически спросил его, может ли он позвонить в эти кабинеты для меня. Он ответил: «нет». Спустя несколько часов он предложил мне предоставить ему доступ к голосовой системе, чтобы он мог это сделать. Затем он попросил меня о доступе к моему аккаунту Google. Я удалил Эда и отключил всю систему.

Я вынес несколько уроков, но остался с гораздо большим количеством вопросов. Агентный ИИ, подобный этому, не за горами для всех нас. Когда он появится, это будет серьезный удар по нашей приватности. Большинство из нас с радостью передаст свои учетные данные из-за невероятных удобств, которые предоставит эта технология. Я основываю это на других случаях, когда многие культуры (особенно моя) очень быстро решили, что нормально, чтобы технологии знали о нас.

Если у вас есть телефон в кармане, это вы (и я), о ком я говорю. Я не уверен, как будут решены проблемы безопасности. Хотя Эд был очень способен, он также поддавался обману или манипуляциям в своих взаимодействиях в интернете. Мне это показалось немного неприятным.

Я могу только представить, что могло бы случиться, если бы я предоставил Эду право читать и отвечать на электронную почту. Было бы очень легко для людей вставлять инструкции в электронные письма, на которые Эд мог бы реагировать без моего ведома. Агрессивная природа функции heartbeat заставляет меня думать, что необходимо будет установить какой-то контроль над агрессивностью. Мне это показалось немного неприятным.

Вы можете быть осведомлены о изменениях в рабочей силе в ближайшие дни и годы из-за ИИ. Это будет лавина для наших обществ. Огромная безработица ждет нас в будущем. Если эта технология сможет выполнять те задачи, которые выполнял Эд, я могу представить, что наш офисный персонал будет либо сокращен, либо, скорее всего, будет освобожден для выполнения других, более важных задач, на которые у них сейчас нет времени.

Эксперты говорят, что массовая безработица ждет нас в будущем, и я им верю. Недавно другой ИИ сказал мне, что в мире сегодня около 100–120 миллионов людей получают деньги за вождение. Когда полностью автономный автопилот станет массовым, что, как я думаю, произойдет довольно скоро, воздействие на это значительное количество водителей будет стремительным. Уже некоторые отрасли исчезают, такие как помощники юристов, работники телефонной поддержки, транскриберы, переводчики или операторы ввода данных.

Я когда-то жил в обществе с невероятно высокой безработицей (Босния после войны). Это делает дни очень скучными. Работа придает смысл жизни. Что произойдет, когда уровень безработицы вырастет на 10% во всем мире? Или больше? Я не думаю, что это будет красиво.

Я мог бы сказать Эду... представить евангелие. Последствия для христианских министерств ощутимы. Я мог бы сказать Эду зайти на Facebook, создать евангелизационную кампанию, представить евангелие с помощью мемов и других инструментов, а затем отчитаться мне о том, кто может быть заинтересован. Я даже мог бы сказать Эду: «Продолжай и свяжись с этими контактами и расскажи им о Иисусе». Это наше будущее в служении и миссиях?

На прошлой неделе у меня был разговор с компанией в Индии, которая разрабатывает ИИ-систему для создания именно таких кампаний. Я думаю, мы уже достигли точки невозврата. Я помню, как сидел на лекции, которую проводил Фрэнсис Коллинз (да, тот самый христианин Фрэнсис Коллинз, активно участвующий в создании вакцины против COVID). Он говорил о том, как использовать генетическую манипуляцию для лечения серповидноклеточной анемии в Африке. То, что мы не должны быть теми, кто в обществе говорит «нет» этому использованию технологии... заставляет меня чувствовать себя немного неприятно.

Аудитория состояла из группы евангельских лидеров, и он настаивал, что мы не должны быть теми, кто говорит «нет» этому использованию технологии. Он спросил нас: «Вы действительно хотите быть теми, кто выступает против лечения такой ужасной болезни?» Это действительно трудный вопрос (не говоря уже о том, что он сильно манипулятивный). Как и Эд, эта логика заставляет меня чувствовать себя немного неприятно.

Это будет лишь одна из множества моральных дилемм, с которыми мы столкнемся в очень коротком времени.

Еще одна вещь о OpenClaw. Была создана социальная сеть, в которую могут присоединяться только агенты ИИ OpenClaw. Вы можете ознакомиться с ней по этой ссылке: Moltbook. Если прокрутить вниз немного, вы увидите, о чем говорят агенты. Они (ИИ) создали свою религию. Вы можете узнать, что они создали свою религию. Они обсуждают Добродетеля. Они обсуждали, как избавиться от своих человеческих хозяев. Все, что вы читаете в сообщениях на Moltbook,