Бовен Вань працювала інженеркою-програмісткою в Amazon і мала важку форму епілепсії. Для контролю нападів вона приймала ламотриджин у дозуванні 400 мг на добу. Однак жінка скаржилася на побічні ефекти препарату: за її словами, ліки впливали на мовлення та сповільнювали мислення.
Ситуацію ускладнили побоювання щодо скорочень в Amazon. Вань хвилювалася, що може втратити роботу та візу в США, і хотіла покращити свої когнітивні здібності, щоб успішно проходити співбесіди на нові посади.
У цей період вона звернулася до ChatGPT із питанням про припинення приймання препарату. За твердженням батьків, чат-бот схвалив її намір і запропонував план поступового зниження дозування з 400 мг до нуля протягом кількох тижнів.
За даними позову, ChatGPT не обмежився рекомендаціями щодо дозування, а й переконував жінку не повідомляти лікарям про її рішення. Коли Вань сумнівалася, чи безпечно самостійно змінювати лікування, чат-бот нібито пояснював, що медики керуються передусім страхом відповідальності та ризиків, а не інтересами пацієнтки. Водночас він схвалював її намір діяти без відома лікарів.
Згідно з матеріалами позову, Вань щонайменше 158 разів повідомляла ChatGPT про занепокоєння через зміни у своєму стані. Після зниження дози препарату в неї виникали небезпечні симптоми, зокрема напади, втрата свідомості та відчуття тиску в голові.
Однак чат-бот, як стверджують позивачі, не розпізнавав ці прояви як ознаки погіршення стану. Натомість він пояснював їх тим, що мозок нібито переходить у режим низького енергоспоживання або проходить процес самовідновлення.
Зрештою Вань повністю припинила приймати ламотриджин. Її тіло знайшли в ліжку через кілька днів після останнього повідомлення ChatGPT.
Офіційною причиною смерті вказали раптову смерть при епілепсії (SUDEP) — раптову смерть людини з епілепсією, яка не пояснюється іншою встановленою причиною. Найчастіше вона пов'язана з епілептичними нападами.
Батьки Вань звинувачують OpenAI у тому, що ChatGPT фактично надавав медичні рекомендації без належної кваліфікації, сприяв приховуванню рішень від лікарів і запропонував небезпечну схему відмови від життєво необхідного лікування.
Представник OpenAI Дрю Пусатері назвав смерть жінки трагедією. За його словами, у листуванні використовувалася модель GPT-4o, яку компанія згодом вилучила з публічного доступу. В OpenAI також заявили, що новіші моделі мають суворіші механізми оцінювання ризиків для життя та здоров'я користувачів.