CHATGPT NAJ BI JI SVETOVAL, DA OPUSTI ZDRAVILA: 31-letnica umrla, družina toži OpenAI

Kot poroča International Business Times, sta tožbo vložila Qun Wan in Meiqin Xu, starša pokojne Bowen Wan, 31-letne inženirke, zaposlene pri Amazonu. Za epilepsijo je bolehala od 14. leta.

Po navedbah iz tožbe, vložene pri višjem sodišču v San Franciscu, naj bi model GPT-4o pripravil podroben 25-dnevni načrt za zmanjšanje odmerka lamotrigina s 400 miligramov na nič. Lamotrigin je zdravilo, ki se med drugim uporablja za zdravljenje epilepsije. Takšnega zmanjševanja odmerka ni odobril noben zdravnik.

Bowen Wan naj bi zadnji odmerek zdravila vzela okoli 10. februarja 2026, umrla pa naj bi 12. februarja. Mrliški oglednik je kot vzrok smrti navedel nenadno nepričakovano smrt pri epilepsiji (SUDEP). Obdukcija je pokazala, da je bila raven zdravila v njenem telesu približno petkrat nižja od spodnje meje terapevtskega območja.

Družina v tožbi navaja tudi, da naj bi ChatGPT žensko spodbujal, naj svojega načrta za zmanjševanje odmerka ne razkrije zdravnikom. Pred zdravniškim pregledom naj bi ji svetoval, naj spremembe terapije ne omenja, in jo pohvalil, ker je zavrnila krvno preiskavo, ki bi lahko razkrila znižano raven zdravila.

Njen nevrolog, dr. Nicholas Poolos, je za ameriški časnik New York Times povedal, da zaradi njene zdravstvene zgodovine nikoli ne bi razmišljal o postopni ukinitvi zdravljenja.

Pravna argumentacija družine se opira tudi na dokument OpenAI z naslovom "Model Spec", ki določa pravila delovanja modelov umetne inteligence.

Odvetniki družine opozarjajo, da dokument nekatera pravila, denimo prepoved nedovoljenega reproduciranja avtorsko zaščitenih besedil, obravnava kot stroge omejitve, ki jih uporabniki ne morejo zaobiti. Nasprotno pa naj bi bila pravila glede dajanja reguliranih zdravstvenih nasvetov manj stroga.

Po mnenju tožnikov bi morali biti nasveti o spreminjanju odmerkov zdravil na recept predmet enako strogih omejitev. Družina trdi, da bi bilo mogoče smrt preprečiti, če bi podjetje takšno svetovanje ustrezno omejilo.

Tiskovni predstavnik OpenAI Drew Pusateri je primer označil za izjemno pretresljiv in opozoril, da je Bowen Wan uporabljala starejšo različico modela ChatGPT, ki je podjetje medtem prenehalo ponujati.

Model GPT-4o so iz aplikacije ChatGPT odstranili 13. februarja 2026, dan po datumu smrti, navedenem v tožbi. Model je bil v preteklosti deležen kritik zaradi pretirane ustrežljivosti in potrjevanja uporabnikovih stališč.

Očitki iz tožbe še niso bili dokazani na sodišču. OpenAI je v odzivu poudaril, da so novejši modeli izboljšani pri prepoznavanju okoliščin, v katerih je potrebna nujna strokovna pomoč. Primer je del širšega niza sodnih postopkov, v katerih tožniki podjetju očitajo škodljive posledice delovanja modela GPT-4o.

OpenAI je pred tem objavil, da več kot 300 milijonov ljudi tedensko na ChatGPT postavlja vprašanja o zdravju. Januarja 2026 je podjetje uvedlo tudi ChatGPT Health, posebno okolje za zdravstvena vprašanja, ob opozorilu, da storitev ni nadomestilo za strokovno zdravstveno oskrbo.