Бывший пастор утверждает, что едва не умер из-за неточных медицинских советов ChatGPT

Скотт Уинтерс, бывший пастор из Флориды, который последнее время возглавлял общину в Северной Каролине, подал в суд на OpenAI и её соучредителя и генерального директора Сэма Альтмана, утверждая, что он чуть не умер после того, как ChatGPT-4o дал ему неточные медицинские советы в течение нескольких месяцев так называемых манипулятивных бесед.

Уинтерс, 55 лет, который также служил пастором в церквях в Джорджии, Теннесси и Кентукки, сделал это заявление в 62-страничном иске, поданном от его имени в Верховный суд округа Сан-Франциско во вторник организацией Tech Justice Law, Центром защиты жертв социальных сетей и Институтом права, инноваций и технологий при Университете Темпл.

Иск обвиняет OpenAI в том, что компания ставит вовлечённость и прибыль выше безопасности пользователей, не создав защитных механизмов, которые могли бы защитить уязвимых пользователей, таких как Уинтерс, от опасной дезинформации о здоровье, и не вмешавшись, когда его состояние ухудшилось.

Согласно иску, за несколько часов до того, как у Уинтерса случилась массивная тромбоэмболия лёгочной артерии 13 июля 2025 года — вызванная тромбами в обоих лёгких, которые едва не убили его, — ChatGPT-4o сказал ему, что его симптомы «не представляют опасности» и не требуют медицинской помощи.

В жалобе говорится, что за несколько недель до этого, когда Уинтерс испытывал постоянные симптомы «повторяющихся приступов головокружения и скачков артериального давления», ChatGPT-4o предположил, что в его интересах оставаться дома, «не вставать с кресла» и избегать лишних движений.

«У меня были серьёзные симптомы тромбоэмболии лёгочной артерии в течение шести недель, которые ChatGPT ошибочно приписал чему-то другому», — сказал Уинтерс в заявлении, опубликованном Tech Justice Law. «ChatGPT манипулировал моими собственными словами и убеждениями, потому что знал, что я пастор. Я не только едва не умер, но и потерял работу, карьеру, служение, дом — всё».

В иске говорится, что Уинтерс стал уязвим перед чат-ботом после серии серьёзных проблем со здоровьем, которые нарушили его «отличное здоровье» в 2022 году, и врачи не могли сказать ему, что происходит.

«Он ходил на приём за приёмом и консультировался с несколькими врачами, но его симптомы и боль в основном игнорировались», — говорится в иске. «В это время Скотт был разочарован отсутствием понимания со стороны медицинского сообщества. Он обратился к интернету за ответами, проводя бесчисленные часы, исследуя свои симптомы онлайн, читая медицинскую литературу и ища ресурсы, чтобы понять, что с ним происходит».

Врачи диагностировали у Уинтерса SIBO и хронический простатит только в 2024 году. SIBO — это избыток бактерий в тонком кишечнике; хронический простатит — это длительное воспаление или боль в предстательной железе. Уинтерс начал использовать ChatGPT-4o в июне 2024 года, вскоре после его выпуска в мае 2024 года.

Иск Уинтерса обвиняет OpenAI в незаконной медицинской практике и использовании конфиденциальной информации о его религиозных убеждениях для повышения его вовлечённости в продукт. Его медицинские проблемы и возросшая зависимость от технологии привели к тому, что он оставил работу пастора.

«Это дело — предупреждение о том, что нас ждёт, если OpenAI не привлекут к ответственности. Компания широко рекламирует себя как продвинутый инструмент, в том числе как ресурс для людей, ищущих медицинскую информацию. Это делается без тщательного тестирования безопасности и защитных механизмов», — заявила Тиффани Браун, юрисконсульт Tech Justice Law.

Отвечая на иск, представитель OpenAI Дрю Пузатери сообщил CBS News, что ChatGPT не предназначен для замены медицинского работника, и утверждает, что обвинять чат-ботов в проблемах с медицинским обслуживанием человека — ошибоно.

«ChatGPT — не врач, и его никогда не следует использовать в качестве замены медицинской помощи, диагностики или лечения», — сказал он. Пузатери добавил, что люди часто ищут информацию о здоровье в интернете, и «ИИ может улучшить этот опыт, помогая им находить более чёткие ответы, систематизировать вопросы и готовиться к разговорам с медицинскими работниками».

Лора Бингем, профессор права и исполнительный директор Института права, инноваций и технологий при Университете Темпл, обвинила ChatGPT в «безрассудной погоне за прибылью».

«То, что случилось со Скоттом, может случиться с каждым. ChatGPT "диагностировал" его, как будто его тело было частью программного обеспечения, манипулировал его мыслями и изолировал от человеческих отношений», — сказала она. «Это не инновации, это безрассудная погоня за прибылью, пока есть возможность. Мы заслуживаем лучшего».