O tânără a murit după ce a fost îndemnată de inteligența artificială să renunțe la tratament

Familia acuză sistemul că a facilitat temerile ei!

El a schimbat peste 270.000 de mesaje cu ChatGPT, multe dintre care au fost întrebări despre efectele secundare ale anumitor medicamente.

Bowen Wan, un fost inginer de software Amazon de 31 de ani, a murit după ce s-a întors la chatbot pentru că se temea că tratamentul său ar putea interfera cu interviurile de muncă.

Părinții ei au depus un proces împotriva OpenAI, acuzând compania de a le da fiicei lor recomandări medicale periculoase. Această îngrijorare, amplificată de răspunsurile primite, a determinat-o să înceteze tratamentul. Rezultatul a fost că Bowen a murit la Seattle pe 14 februarie, scrie Il Corriere Della Sera.

Cazul se referă la GPT-4o, o versiune anterioară a sistemului. În documentele judecătorești, pe care The New York Times le-a revizuit, familia a reconstruit conversațiile dintre tânără și inteligența artificială.

Cazul vizează GPT-4o, o versiune specifică!

Schimburile de mesaje au început în 2023 și au continuat până în primele luni ale anului 2026 Wan a suferit de o formă severă de epilepsie și a luat 400 de miligrame de lamotrigină, un medicament folosit pentru a controla crizele. Preocupată de potențialele efecte cognitive ale tratamentului, ea pare să fi întrebat ChatGPT cum să-și reducă doza - și, în cele din urmă, cum să renunțe la medicament.

Potrivit afirmațiilor OpenAI, chatbot-ul nu a furnizat doar informații generale, ci a oferit instrucțiuni specifice cu privire la modul de a reduce treptat doza, sugerând chiar împărțirea pastilelor.

În plus, atunci când adolescentul a raportat anumite simptome neurologice, inteligența artificială le-ar fi descris ca reacții normale ale organismului la reducerea tratamentului. Un dezastru medical. Dar asta nu e tot.

Ce a raportat adolescentul către chatbot?

Potrivit unor rapoarte din ziarul american, tânără a exprimat îngrijorarea pentru sănătatea ei cel puțin 158 de ori.

Familia lui susține că, în ciuda acestor temeri, sistemul a continuat să-i faciliteze intențiile - ajungând la minimarea avertismentelor făcute de medicii săi. Bowen Wan ar fi fost încurajată să nu informeze neurologul ei despre decizia de a înceta tratamentul.

În plus, pe 14 februarie a fost găsită moartă în apartamentul ei. Conform informațiilor din dosarele de caz, cauza decesului a fost o criză epileptică care a avut loc în câteva zile de la întreruperea medicamentelor. Părinții acestui tânăr de 31 de ani acuză acum compania că practică medicină fără autorizație, spunând că chatbotul se comportă „prea complacent”.

Ei susțin că ChatGPT a respectat cererile utilizatorului fără a ține cont de riscurile asociate. Între timp, OpenAI și-a exprimat condoleanțele familiei. Un purtător de cuvânt a spus că cazul se referă la o versiune anterioară a platformei, care a fost retrasă la mijlocul lunii februarie 2026.