OpenAI explorează lansarea unei versiuni de ChatGPT capabile să genereze conținut destinat exclusiv pentru adulți, dar accesibil doar utilizatorilor care își verifică vârsta.
Astfel, chiar CEO-ul OpenAI, Sam Altman, a confirmat că există o cerere reală pentru astfel de funcționalități, însă compania trebuie să găsească un echilibru între inovație și responsabilitate. Începând cu luna decembrie a acestui an, ChatGPT va permite generarea de conţinut „matur”, dar numai utilizatorilor care îşi verifică vârsta. Compania spune că decizia vine ca urmare a dorinței OpenAI de a trata utiliatorii adulți ca pe niște oameni maturi în toată regula. Planul ar presupune un sistem de verificare strictă a vârstei, pentru a preveni accesul minorilor, și ar putea deschide o nouă piață pentru modelele AI. Totuși, decizia ridică întrebări majore despre cum va fi reglementat un astfel de serviciu, ce impact va avea asupra reputației companiei și cum se va asigura că tehnologia nu este folosită abuziv.
Industria AI se află deja sub presiunea autorităților din SUA și Europa, care cer mai multă transparență și reguli clare privind siguranța utilizatorilor. O eventuală versiune „18+” a ChatGPT ar putea crea încă un precedent destul de periculos cu privire la ușurința accesului la conținut pentru adulți, asta după ce xAI a lansat în vară chatbotul care flirta cu tine sub forma unui caracter de tip anime.
Altman a mai adăugat și că OpenAI a introdus în ultimele luni mai multe instrumente de siguranţă pentru a reduce riscurile pentru sănătatea mintală. Din această cauză se simte pregătirea pentru relaxarea anumitor restricţii. Chiar dacă funcţia erotică va fi disponibilă, nu va fi activată automat, astfel că utilizatorul trebuie să solicite conţinutul şi să fie verificat ca adult.
Un semnal de alarmă care trebuie evidențiat aici este legat de procesul de validare a vârstei. Verificarea vârstei trebuie să fie sigură, eficientă și cu respectarea intimităţii, ca să nu fie abuzată sau manipulată. Există riscul ca utilizatorii vulnerabili (mai ales tineri sau cei cu probleme de sănătate mintală) să fie expuşi conținutului nepotrivit, dacă filtrele nu funcţionează corect. De asemenea, va fi nevoie de transparenţă și control în modul în care se defineşte, ce înseamnă „erotic”, ce este permis şi ce nu, ca să nu apară situaţii ambigue sau abuzive.
