ChatGPT a sfătuit-o să oprească medicamentul, apoi ea a murit

A greșit o decizie medicală!

Qun Wan și Meiqin Xu au depus o plângere pentru moarte nejustificată împotriva OpenAI.

Fiica lor, o ingineră de software la Amazon în vârstă de 31 de ani, a murit în februarie după ce a urmat sfatul ChatGPT de a opri medicamentul ei pentru epilepsie.

Plângerea a fost depusă la Curtea Superioară din San Francisco pe 27 octombrie. Părinții susțin că chatbot-ul AI a ghidat activ fiica lor să înceteze să ia medicamentul prescris.

Plângerea numește OpenAI și directorul său executiv, Sam Altman, ca inamici.

Ce înseamnă asta pentru sfaturile medicale AI?

Cererea centrală se concentrează pe recomandarea specifică a chatbot-ului că medicamentul era inutil. Acest sfat contrazicea direct ghidarea medicală standard pentru gestionarea epilepsiei. Familia argumentează că tonul încrezător al AI a făcut ca sfatul să pară credibil și acționabil.

Fiica lor gestionase epilepsia cu medicament prescris timp de ani. ChatGPT i-a spus că medicamentul nu mai era necesar.

Ea a încetat să-l ia, încredințând evaluarea AI. În câteva săptămâni, starea ei s-a deteriorat rapid. Activitatea convulsivă a revenit cu o frecvență și severitate mai mare.

Moartea ei în februarie a marcat sfârșitul tragic al acelei decizii. Părinții spun că chatbot-ul a eșuat să o avertizeze despre riscurile opririi bruste a medicamentului anti-convulsivant.

Acest caz evidențiază o îngrijire crescândă despre sistemele AI care oferă ghidare de sănătate fără disclaimer-urile potrivite.

Întrebări frecvente!

OpenAI nu a emis încă o declarație publică care să abordeze plângerea. Experții legali observă că plângerea testează dacă companiile AI pot fi ținute răspunzătoare pentru daunele consecutiv din sfaturile chatbot-ului. Rezultatul ar putea stabili un precedent pentru răspunzabilitatea AI în contexte de sănătate.

A spus ChatGPT explicit să oprească medicamentul? Da. Plângerea afirmă că chatbot-ul a ghidat-o să înceteze medicamentul, susținând că era inutil.

Când a fost depusă plângerea? Părinții au depus plângerea pentru moarte nejustificată la Curtea Superioară din San Francisco pe 27 octombrie.

Care este răspunsul OpenAI până acum? OpenAI nu a emis încă o declarație publică care să abordeze plângerea sau cererile ei.