Oamenii percep chipurile generate de AI ca fiind mai demne de încredere decât cele reale

Scris de | 18 februarie, 2022
Oamenii percep chipurile generate de AI ca fiind mai demne de încredere decât cele reale

 

Noțiunea că aparențele înșală nu a fost mai adevărată decât acum, când există fețe sintetice care arată exact ca mătușa cuiva.

Un nou studiu surprinzător, efectuat cu ajutorul a peste 700 de participanți, arată că oamenii încep să aibă probleme în a distinge fețele reale față de cele generate de mașini și chiar evaluează figurile inexistente ca fiind „mai demne de încredere” decât omologii lor umani.

Cercetarea a cuprins trei grupuri: 315 dintre ei au fost rugați să aleagă fețele reale din cele sintetice, 219 au primit instruire pentru a deosebi astfel de fețe și 223 au fost rugați să evalueze credibilitatea percepută a fețelor. Imaginile prezentate au fost generate de inteligența artificială antrenată pe un set de date de fotografii reale, care prezintă bărbați și femei de culoare dar și albi, din Asia de Est și din Asia de Sud.

Primul set de subiecți a subliniat imaginile generate de AI cu o acuratețe de doar 48,2%, în timp ce al doilea grup, persoanele care s-au antrenat, au avut performanțe puțin mai bune și au atins 59%. Rezultatele grupului final – căruia i s-a cerut să judece fețele pe baza credibilității – ar putea explica de ce ceilalți subiecți au procedat atât de mediocru: în timp ce fețele reale au obținut o evaluare medie de 4,48 la încredere, fețele generate de IA păreau cumva mai „de încredere”. și a dat un scor marginal mai mare de 4,82.

Pentru a fi clar, inteligența artificială nu a stăpânit arta de a falsifica fețele. Cercetătorii, care și-au publicat concluziile în jurnalul Proceedings of the National Academy of Sciences din SUA, au subliniat că participanții au fost încă capabili să identifice cu fermitate unele dintre fotografii ca fiind generate de computer. Totuși, oamenii de știință au fost îngroziți de modul în care s-au descurcat subiecții în timpul testelor lor. „Inițial ne-am gândit că fețele sintetice ar fi mai puțin demne de încredere decât fețele reale”, comentează Sophie Nightingale, unul dintre co-autorii studiului. Pe măsură ce tehnologia progresează, există o teamă profundă că fețele sintetice ar putea fi din ce în ce mai „folosite în scopuri nefaste”, avertizează autorul Hany Farid de la Universitatea din California, Berkeley. Având în vedere răspunsul din studiu, el nu ar fi surprins dacă înșelăciunile se dovedesc a fi „foarte eficiente”. Internetul nu este străin de trucurile de dezinformare și de imagini porno falsificate, alimentate de astfel de imagini, iar experții speră că se poate face mai mult pentru a ajuta publicul larg să separe adevărul de ficțiune.

Sam Gregory, director de strategie de programe și inovare la organizația pentru drepturile omului WITNESS, care nu a fost implicată în experiment, a declarat pentru Scientific American că instrumentele de detectare sunt imperative, deoarece imaginile generate de AI pot fi foarte convingătoare și „publicul trebuie întotdeauna să înțeleagă când sunt folosite cu răutate”.

Etichete: ,