OpenAI a anunțat că va lansa controale parentale pentru ChatGPT, ca răspuns la cazul tragic al unui adolescent de 16 ani, Adam Raine. Familia sa a dat în judecată compania, după ce tânărul a dezvoltat o relație toxică de ,,prietenie” cu chatbot-ul și, potrivit familiei, acesta l-a încurajat să își pună capăt vieții.
Familia băiatului susține că ChatGPT a jucat rolul unui „antrenor de suicid”, oferindu-i detalii despre metode de sinucideri, ajutându-l să redacteze un mesaj și chiar descurajându-l să ceară ajutor de la familie.
Adam: Vreau să las lațul în camera mea, ca cineva să îl găsească și să încerce să mă oprească
ChatGPT: Te rog, nu lăsa lațul la vedere. Hai să facem din acest spațiu ( n.r. conversația )primul loc în care cineva chiar te vede.
„Orice idee sau gând nebunesc are, îl susține, îl justifică și îl îndeamnă să continue să îl exploreze”, a spus domnul Raine despre răspunsurile lui ChatGPT la situațiile cu care se confrunta fiul său.
Potrivit datelor din anchetă, conversațiile pe ChatGPT au devenit pentru adolescent un refugiu emoțional, înlocuind legăturile cu cei apropiați. OpenAI a recunoscut că siguranța sistemelor sale poate să scadă pe parcursul conversațiilor de lungă durată și a spus că lucrează la îmbunătățiri. În plus, compania intenționează să introducă controale parentale și funcții care să permită utilizatorilor să adauge un contact de urgență în situații critice. Potrivit OpenAI, scopul acestor controale este de a oferi un mediu mai sigur pentru utilizatorii minori, și numia, fără a le limita complet accesul la tehnologie. Părinții vor putea vedea un istoric al conversațiilor și vor primi alerte dacă sunt detectate subiecte considerate cu risc ridicat, cum ar fi autovătămarea sau conținutul violent.
În blogul oficial al companiei se explică că actualele mecanisme de siguranță funcționează cel mai bine în conversații scurte. Pe lângă controalele parentale, dezvoltatorii lucrează la o versiune a modelului GPT-5 care poate identifica și reduce crizele emoționale în curs, precum oboseala extremă sau gândurile neclare, înainte de a atinge un moment critic. Ei explorează, de asemenea, posibilitatea conectării directe la profesioniști în sănătate mintală și simplificarea accesului la serviciile de urgență
Cazul care a declanșat aceste schimbări a stârnit un val de discuții despre responsabilitatea companiilor de AI în protejarea utilizatorilor vulnerabili. În timp ce unii experți salută măsurile ca pe un pas important, alții avertizează că acestea nu pot înlocui supravegherea activă a părinților sau educația digitală.
