Bowen Wan, a Seattle-ben élő, kínai származású szoftvermérnök epilepszia elleni gyógyszert, lamotrigint szedett. A nő az Amazon elbocsátása után a ChatGPT-hez fordult, mert állásinterjúkon angolul akart jól beszélni, a gyógyszert pedig akadálynak látta. A keresőrobot kínai nyelven olyan elvonási tervet adott neki, amely a 400 milligrammos napi adagot nullára csökkentette, és egyetlen orvos sem írta elő. A chatbot azt is tanácsolta, hogy kerülje el az orvosait, és a bejelentkezésen ne említse a gyógyszercsökkentést.
Rohamok és halál – a fókuszos rohamok jelentkezésekor a bot megnyugtatta a nőt, hogy nincs agykárosodás, és nem is roham volt, amit átélt. Wan tovább csökkentette az adagot, és február 12-én roham következtében meghalt. Szülei, akik Kínában éltek, február 14-én érkeztek Seattle-be, és ott találták holtan.
A per – a felperesek szerint az OpenAI megelőzhette volna a halált, ha a kínai nyelvű válaszokba megfelelő biztosítékokat épít be, például minden kérdés elé egyértelmű figyelmeztetést, hogy a bot nem orvos. A szülők kártérítést követelnek, és azt is kérik, hogy a cég ne végezzen orvosi tevékenységet engedély nélkül a termékei felhasználóin. Az OpenAI szóvivője, Drew Pusateri szerint a történet szívfacsaró, Wan pedig már egy mára megszűnt ChatGPT-verziót használt. A szóvivő szerint az újabb változatok jobban felismerik, ha sürgős orvosi ellátásra van szükség.
Fordítás · eredeti cím: Parents of woman who died of seizure after ChaGPT misguidance sue OpenAI – The Guardian
Saját, tényszerű összefoglaló az eredeti cikk alapján (Fordítás – eredeti: The Guardian). A részletekért olvasd el az eredetit.