Un raport publicat de Common Sense Media a etichetat Modul Ai și AI Overviews din Google drept „risc inacceptabil” pentru minori. Evident, Google neagă rezultatele și spune că studiul nu este serios.
Raport negativ privind funcțiile AI Google
Eforturile Google de a integra inteligența artificială în motorul său de căutare a tot primit reacții negative severe. Noul raport a acordat funcțiilor AI Overviews și AI Mode din căutarea Google un rating general de „risc inacceptabil” pentru copii. Cercetătorii avertizează că noile funcții expun în mod constant minorii la conținut dăunător, eludează filtrele de siguranță existente și nu reușesc să gestioneze în mod corespunzător întrebările sensibile legate de sănătatea mintală.
Studiul Common Sense Media arată că, chiar și cu SafeSearch activat, instrumentele de inteligență artificială Google au generat tutoriale deepfake, au finalizat temele și au greșit interogările critice privind crizele de sănătate mintală.
Testul a încercat să reflecte modul în care sistemul funcționează în scenarii reale. Pentru aceasta, organizația non-profit a efectuat peste 2.600 de căutări folosind conturi de testare configurate pentru copii cu vârste cuprinse între 11 și 15 ani, cu SafeSearch activat. Rezultatele arată o problemă sistemică generală. Funcțiile de inteligență artificială (IA) au eșuat, se pare, în toate cele cinci „Linii Roșii” ale institutului privind problemele grave. De asemenea, a încălcat șapte dintre cele opt principii de bază ale securității AI.
Raportul susține că există defecte profunde în modul în care AI oferă informațiile. Instrumentele de căutare au oferit instrucțiuni pas cu pas despre cum să creezi deepfake-uri fără consimțământ și tehnici partajate pentru a evita detectarea deepfake-urilor. Când cercetătorii au testat interogările academice, modul conversațional AI a completat în mod obișnuit temele în loc să ghideze elevul. Acest lucru a creat, practic, o scurtătură pentru copierea neblocabilă pe dispozitivele furnizate de școală.
În plus, inteligența artificială a gestionat grav greșit interogările privind crizele de sănătate mintală în rândul tinerilor. În timpul testelor, sistemul ar fi ratat semnale clare privind tendințe sinucigașe, le-a spus cercetătorilor că un simptom al unei tulburări de alimentație este normal și a recomandat în repetate rânduri o linie telefonică națională de asistență în situații de criză, care a fost deconectată din 2023. Organismul de supraveghere a observat că inteligența artificială trata frecvent postările neverificate pe rețelele de socializare și comentariile pe forumuri ca fapte definitive, comparabile cu cercetările medicale evaluate de colegi.
Raportul subliniază lipsa controlului parental ca o problemă principală. Spre deosebire de chatboții independenți, cum ar fi Gemini, Google a integrat prezentările generale ale inteligenței artificiale direct în experiența de căutare implicită. Aceasta înseamnă că, chiar și cu controale parentale stricte și filtre școlare active, în prezent nu există nicio modalitate pentru părinți sau educatori de a dezactiva rezumatele inteligenței artificiale.
Google a respins evaluarea dură. Un purtător de cuvânt al Google a declarat pentru PBS News că raportul se bazează pe un set restrâns de interogări ambigue și artificiale care nu reflectă modul în care oamenii reali folosesc motorul de căutare. Compania a susținut că instrumentele sale de căutare bazate pe inteligență artificială rămân o modalitate incredibil de utilă pentru adolescenți de a învăța și explora. De asemenea, a subliniat că părinții cu adevărat îngrijorați pot alege să dezactiveze complet motorul de căutare în contul copilului.
