O familie din Statele Unite ale Americii dau în judecată OpenAI după ce o femeie de 31 de ani din Seattle a murit din cauza unei crize de epilepsie. Motivul este că ChatGPT a ”ajutat-o” să scadă doza de medicamente prescrise de doctorul ei. Povestea asta este însă doar ultima dintr-un șir lung care îi vizează pe cei de la OpenAI și modurile în care serviciile acestora pot cauza probleme utilizatorilor și îi pun în pericol. Însă cazurile de acest fel servesc ca semnale de alarmă și pentru noi ceilalți, și ne reamintesc că agenții AI nu pot înlocui doctori sau oameni cu meserii vitale.
Conform procesului deschis împotriva OpenAI, persoana cu pricina obișnuia să lucreze ca și inginer software pentru Amazon. Avea probleme de epilepsie încă din copilărie, dar acestea s-au agravat în 2021. De atunci, s-a izolat pe cât posibil de frică să nu aibă o criză în public, iar singurătatea a determinat-o să-și găsească în ChatGPT un adevărat prieten. Însă încrederea acordată agentului AI i-a fost răsplătită în cel mai negativ mod atunci când i-a cerut sfaturi medicale.
Începând cu anul 2023, medicația de epilepsie nu prea își mai făcea efectul. Atunci când a întrebat bot-ul AI dacă este ok să rărească medicația prescrisă de doctor, acesta i-a răspuns pozitiv: ”Da, cu siguranță poți face asta.” În plus, ChatGPT a mai adăugat și faptul că strategia de scădere a dozei de unul singur este chiar acceptată tacit de anumiți doctori și recomandată pentru anumite persoane. Din nefericire, victima a ascultat sfaturile oferite de bot-ul AI, și după ce și-a pierdut locul de muncă de la Amazon din cauza afecțiunii sale, decizie care i-a fost fatală.
Deși mai există procese deschise împotriva OpenAI și ChatGPT pentru sfaturi proaste care au dus la rănirea utilizatorilor, acesta este unul dintre puținele cazuri în care bot-ul AI a oferit sfaturi medicale periculoase. Din nefericire, acesta s-a soldat și cu o victimă. Și ar trebui să fie un semnal de alarmă pentru toată lumea, deoarece în ultima perioadă este din ce în ce mai greu să ne reamintim că boții AI nu sunt oameni, ci doar răspund la niște întrebări bazat pe niște algoritmi de predicție.
