Марк Цукерберг в манифесте: «Не существует единого благосклонного сверхинтеллекта»

В обширном манифесте, опубликованном в понедельник под названием Будущее для всех: путь к позитивному ИИ-будущему, генеральный директор Meta Марк Цукерберг изложил свою философию относительно сверхинтеллекта, предупредив о концентрации технологии в руках нескольких институтов, правительств или даже самих ИИ-систем.

Предсказывая будущее, в котором ИИ-агенты будут полностью адаптированы для отдельных пользователей, 42-летний технологический миллиардер считает, что единый централизованный сверхинтеллект не может служить интересам всех. Единственный реалистичный путь к безопасности, по его словам, — это широкое распространение личного сверхинтеллекта, чтобы отдельные лица и конкурирующие ИИ-агенты создавали естественные сдержки и противовесы.

В очевидном выпаде в адрес технологических лидеров, таких как Илон Маск и генеральный директор OpenAI Сэм Альтман, которые регулярно предупреждали о потенциальных сценариях «Терминатора» с вышедшим из-под контроля ИИ, Цукерберг не разделяет этих опасений.

«Тем не менее, удивительно, что дискурс многих разработчиков ИИ настолько полон мрачных прогнозов. Я не понимаю, почему тот, кто верит, что ИИ устранит большинство рабочих мест и значимость человечества, спешит строить такое будущее», — написал он. «Представление о том, что ИИ настолько опасен, что единственный безопасный путь — это крайняя концентрация власти, является по своей сути проблематичным. Исторически надежда на то, что абсолютная власть, будучи достаточно просвещенной, будет благосклонно обеспечивать человечество, не приводила к безопасным или положительным результатам».

Вместо этого Цукерберг предупредил, что усилия по созданию теоретического ИИ-сверхинтеллекта — результат, который он в прошлом отвергал, — сами по себе могут стать самой большой угрозой.

«Не существует технологического решения, которое могло бы согласовать противоположные интересы и ценности всех одновременно», — написал он. «Любой единый сверхинтеллект должен был бы расставлять приоритеты одних ценностей над другими, и в этом процессе он не смог бы быть благосклонным ко всем».

В рамках своего предупреждения Цукерберг — который был воспитан в иудейской вере, когда-то называл себя атеистом, а теперь говорит, что религия «очень важна» — заявил, что если «власть сверхинтеллекта будет сосредоточена в руках небольшого числа отдельных лиц, компаний, правительств или самого ИИ, это естественным образом приведет к результатам, менее благоприятным для всех остальных».

Затем Цукерберг заявил: «Не существует такой вещи, как единый благосклонный сверхинтеллект».

Атеисты и агностики, такие как Нил Деграсс Тайсон, использовали аналогичную риторику, утверждая, что отсутствие благосклонности в наблюдаемой реальности является доказательством против существования Бога.

Однако христианские апологеты, такие как генеральный директор Музея креационизма Кен Хэм, утверждают, что за «падший» мир ответственны люди, а не Бог.

Хотя манифест Цукерберга в целом поддерживает децентрализацию ИИ, он также предположил, что человечество однажды может потерять контроль над ним «до такой степени, что в лучшем случае он перестанет служить интересам человечества, а в худшем — поставит человечество под угрозу».

Его решение: дать людям их собственный «сверхинтеллектуальный» ИИ.

«Ключ к позитивному будущему для всех — достижение баланса сил в пользу отдельных лиц», — написал он. «Решение состоит в том, чтобы обеспечить широкое распространение сверхинтеллекта для расширения прав и возможностей людей».

Он добавил: «Здоровый баланс сил заключается в том, чтобы не было единого централизованного сверхинтеллекта, а вместо этого как можно больше людей и компаний с различными сверхинтеллектуальными агентами, согласованными с их целями, которые контролируют и конкурируют друг с другом так же, как ведет себя наша естественная экономика».

В 2024 году Цукерберг отверг комментарии Альтмана, Маска и других, которые предупреждали, что ИИ может привести к появлению «цифрового бога», заявив, что это не является целью технологии.

«Мне очень не нравится, когда люди в технологической индустрии [...] говорят о создании этого „единственного истинного ИИ“», — сказал Цукерберг в подкасте 2024 года. «Похоже, они как будто думают, что создают Бога или что-то в этом роде [...] Это не то, что мы делаем. Я не думаю, что так все и будет».