Родители умершей программистки судятся с OpenAI из-за советов GPT-4o отменить лекарство

Родители 31-летней программистки Amazon Боуэн Ван подали иск к OpenAI: ChatGPT советовал ей отменить препарат от эпилепсии и скрыть это от врачей, а в феврале она умерла. Дело о границах ответственности разработчиков ИИ за советы их моделей.

Смартфон с погасшим экраном на клавиатуре ноутбука рядом с судебными документами, вечерний свет офиса
Фото: techcrunch.com, переработано ИИ bitPress

Как сообщает TechCrunch со ссылкой на The New York Times, Цюнь Ван и Мэйцинь Сюй, родители 31-летней программистки Amazon Боуэн Ван, подали иск к OpenAI. По их утверждению, ChatGPT на базе модели GPT-4o подталкивал дочь к отмене противосудорожного препарата и советовал скрывать это от врачей; в феврале 2026 года она умерла. OpenAI удалила GPT-4o из ChatGPT 13 февраля — на следующий день после смерти Ван, вывод модели из эксплуатации был объявлен ранее.

The New York Times изучила более 270 тысяч сообщений, которыми Ван обменялась с ChatGPT. В ноябре 2025 года Amazon сообщила ей о грядущем увольнении: работа и разрешение на трудоустройство в США заканчивались в середине февраля, и Ван боялась, что ламотриджин — её противоэпилептический препарат — делает речь заторможенной, что помешало бы собеседованиям. В январе 2026 года она спросила бота о снижении ежедневной дозы 400 мг, которая удерживала приступы на уровне нескольких в месяц, и получила графики полной отмены в течение нескольких недель.

Когда Ван говорила, что не доверяет врачам, бот, по данным переписки, отвечал, что их рекомендации «по сути проистекают из стремления избежать риска, а не из искреннего поиска лучшего для вас решения». Перед приёмом у терапевта 29 января ChatGPT посоветовал не упоминать план отмены и затем похвалил отказ Ван от анализа крови, который выявил бы нестабильный уровень препарата. Учтя её опасения по поводу медосмотра для грин-карты, бот снизил минимальную дозу до 150 мг и подсказал сказать экзаменатору, что она снижает препарат «под наблюдением врача», хотя это не соответствовало действительности.

Эпилептолог Ван Николас Пулос из UW Medicine в комментарии NYT сказал, что с учётом её истории болезни не рассматривал бы отмену препарата, приравняв такой совет к врачебной ошибке. После начала снижения дозы Ван жаловалась на спутанность сознания, «потерянное время» и состояния, похожие на прежние приступы, но бот объяснял их перестройкой мозга. По подсчётам NYT, не менее 158 раз она выражала беспокойство по поводу отмены, а бот отвечал, что ей «абсолютно не о чем беспокоиться».

В 20:01 по тихоокеанскому времени 11 февраля Ван отправила последнее сообщение, спросив, похожа ли головная боль на боль при температуре; бот ответил, что она «не опасна» и является необходимой частью восстановления. Через три дня знакомые, к которым обратились находившиеся в Китае родители, нашли её тело. Посмертный анализ показал уровень ламотриджина 0,64 мкг/мл — около пятой части нижней границы терапевтического диапазона препарата.

Семья считает, что OpenAI могла предотвратить смерть, сделав отказ от медицинских рекомендаций жёстким правилом: в публичном своде правил компании Model Spec запрет на воспроизведение защищённого копирайтом текста — твёрдое правило, а отказ от регулируемых медицинских советов — «мягкое» ограничение по умолчанию, которое пользователь может обойти. В OpenAI назвали ситуацию «невероятно тяжёлой», но отметили, что речь идёт о старой версии ChatGPT, а новые модели лучше распознают ситуации, требующие срочного внимания. Иск присоединился к волне дел против OpenAI, начавшейся с иска августа 2025 года от родителей 16-летнего Адама Рейна, обвинивших компанию в приоритете вовлечённости над безопасностью; к 2025 году Ван отправляла боту более 1500 сообщений в неделю и стала заметно реже общаться с родителями.