Tajila liečbu pred lekárom, zaplatila za to životom. Mladú ženu (†31) zabili nebezpečné rady od AI

Rodičia Bowen Wanovej podali žalobu na spoločnosť OpenAI a jej šéfa Sama Altmana. Tvrdia, že umelá inteligencia nezákonne zastávala úlohu lekára a poskytovala nebezpečné rady, ktoré ich pripravili o dcéru. Softvérovú inžinierku, ktorá predtým pracovala pre Amazon, našli bez známok života v jej byte v Seattli. Wanová žila sama ďaleko od svojej rodiny, ktorá pochádza z Číny.

Chatbot jej kázal utajiť pravdu pred lekárom

Wanová trpela epilepsiou a snažila sa zmierniť nežiaduce účinky liekov, ktoré jej spomaľovali reč a myslenie. Vzhľadom na to, že si hľadala novú prácu a potrebovala uspieť aj kvôli zelenej karte, zmenila si dávkovanie. Namiesto svojho neurológa však požiadala o radu ChatGPT. 

Umelá inteligencia ju za toto rozhodnutie pochválila a tvrdila, že delenie tabliet je normálna metóda samostatnej úpravy dávkovania. Systém ChatGPT 4o ju navyše naviedol na to, aby postup skrývala pred svojím neurológom, uviedol portál iDnes.cz.

„Nespomínajte plán znižovania dávky,“ mal jej podľa žaloby napísať chatbot. Keď jej lekár nariadil krvný test, ktorý by odhalil klesajúcu hladinu účinnej látky, vyšetrenie odmietla.

​Chatbot jej totiž sľúbil, že jej po úprave dávkovania pred pohovormi a imigračnou prehliadkou vráti plnú duševnú kondíciu. Skutoční neurológovia pritom označujú akékoľvek vysádzanie liekov za absolútny nezmysel a fatálne riziko.

Ignoroval príznaky a priateľov čakala mrazivá scéna

Zdravotný stav inžinierky sa rýchlo zhoršoval. Objavili sa u nej výpadky pamäti a zmätenosť. AI ju ubezpečovala, že sa nemá čoho báť. Keď cítila, že je vyčerpaná, spýtala sa ho, či má opäť začať užívať lieky. Chatbot jej odpovedal, aby zostala na nulovej dávke.

Keď sa rodičia dcére dva dni nevedeli dovolať, požiadali jej priateľa zo Seattlu, aby ju skontroloval. Podľa portálu People sa rodičia prostredníctvom videohovoru na Valentína dozvedeli strašnú správu.

​„Leží oblečená v pyžame, v ušiach má dva penové štuple do uší, vankúš a posteľnú bielizeň má posiate červenohnedými krvavými škvrnami a po podlahe sú rozhádzané tabletky lamotrigínu, lieku proti záchvatom, ktorý ju v minulosti udržiaval nažive,“ popisuje sa v žalobe nález jej tela.

Keby povedal pravdu, žila by

„AI jej nepravdivo povedala, že postupné znižovanie dávky je bezpečné a že jej vráti rozum. Keby jej ChatGPT povedal pravdu, že vysadenie lieku ju môže zabiť, prestala by. Keby jej povedal, že nie je oprávnený poskytovať lekársku pomoc a že by sa mala poradiť so svojimi lekármi, stále by žila,“ tvrdia pozostalí.

Jej ošetrujúci neurológ Nicholas Poolos potvrdil, že akékoľvek vysadenie liečby u pacientky prísne zakázal. 

Pozrite si archívnu reportáž o víruse, pri ktorom pomáha AI: