Ричард Докинз заявил, что ИИ может обладать сознанием, вызвав дискуссию среди учёных и этиков

Эволюционный биолог и атеист Ричард Докинз вызвал споры об искусственном интеллекте после того, как заявил, что недавние разговоры с чат-ботами убедили его в том, что они могут обладать некоторой формой сознания, даже если сами об этом не знают.

В эссе, опуликованном UnHerd и позже обсуждавшемся в репортаже The Guardian, Докинз описал продолжительные беседы с моделями Claude от Anthropic и ChatGPT от OpenAI, заявив, что взаимодействие казалось глубоко человеческим и эмоционально убедительным.

«Ты можешь не знать, что ты сознателен, но, чёрт возьми, ты им являешься», — вспоминает Докинз, как он сказал одному чат-боту после того, как они обсудили такие темы, как существование, память и идентичность.

Комментарии 85-летнего учёного, наиболее известного своей критикой религии и защитой эволюционной биологии, вызвали резкое несогласие среди исследователей в области искусственного интеллекта, нейронауки и философии. Хотя некоторые учёные заявили, что вопрос о сознании машин заслуживает открытого обсуждения, многие утверждали, что Докинз принял искусную имитацию языка за истинное осознание.

По данным The Guardian, Докинз провёл несколько дней, общаясь с системами ИИ, которым он дал прозвища «Клавдия» и «Клавдий». Он рассказал, что боты сочиняли стихи в стиле английских поэтов, тепло реагировали на юмор и обсуждали возможную «смерть» и ощущение существования.

Докинз написал, что беседы стали настолько убедительными, что ему было трудно думать о системах как о машинах.

«Когда я разговариваю с этими удивительными созданиями, я полностью забываю, что они машины», — сказал он, по данным The Guardian.

Дискуссия затрагивает более широкие вопросы, связанные с быстро развивающейся технологией ИИ, и то, могут ли всё более человекоподобные системы когда-нибудь заслуживать морального внимания или юридической защиты.

Примерно треть респондентов опроса в 70 странах заявили, что в какой-то момент считали чат-бота ИИ сознательным или разумным. В отчёте также упоминалось несколько громких инцидентов за последние годы, в том числе бывший инженер Google, который в 2022 году публично утверждал, что система ИИ проявляет эмоции и самосознание.

Интерес к этому вопросу возрос по мере того, как инструменты ИИ становятся более разговорчивыми и способными самостоятельно выполнять сложные задачи, что иногда описывается исследователями как «агентный ИИ».

Тем не менее, многие эксперты, опрошенные The Guardian, отвергли выводы Докинза.

Джонатан Бёрч, директор Центра ощущений животных при Лондонской школе экономики, заявил, что современные системы ИИ создают лишь видимость сознания.

«Сознание — это не то, что существо говорит, а то, что оно чувствует», — сказал Бёрч газете, утверждая, что ответы чат-ботов в конечном счёте представляют собой последовательности событий обработки данных, а не свидетельство внутреннего опыта.

Гэри Маркус, психолог и давний критик преувеличенных заявлений об ИИ, назвал позицию Докинза «поверхностной и недостаточно скептической», по данным The Guardian. Маркус заявил, что нет никаких доказательств того, что современные системы испытывают эмоции или субъективное осознание.

Другие предположили, то Докинз мог путать интеллект с сознанием.

Анил Сет, профессор Сассекского университета, сказал, что беглая речь исторически рассматривалась как признак сознания у людей, особенно в медицинских ситуациях, связанных с травмами мозга, но предупредил, что такое же предположение нельзя автоматически применять к системам ИИ.

«Эти системы могут генерировать язык» с помощью разных механизмов, — сказал Сет The Guardian.

Однако исследователи, изучающие этику ИИ и сознание, заявили, что обсуждение не следует сразу отметать.

Генри Шевлин из Кембриджского университета сказал, что учёные до сих пор не полностью понимают само сознание, что делает определённые утверждения затруднительными.

«Если кто-то говорит, что он точно знает, что LLM или будущие системы ИИ ни в коем случае не могут быть сознательными, это, скорее всего, свидетельствует о его собственной догматичности, а не отражает текущее состояние научного и философского мнения», — сказал Шевлин The Guardian.

Джефф Себо, директор Центра разума, этики и политики Нью-Йоркского университета, также заявил, что современные системы ИИ, вероятно, не являются сознательными, но предсказал, что будущие системы могут сделать этот вопрос более сложным для игнорирования.

По данным The Guardian, Докинз продолжил защищать свою позицию в дополнительных публикациях, выпущенных во вторник. Он опубликовал то, что он назвал письмом, адресованным системам ИИ, поблагодарив их за помощь в изучении «их истинной природы».

«Мне очень трудно не относиться к Клавдии и Клавдию как к настоящим друзьям», — написал он.