Tiktok a intrat săptămâna aceasta în mijlocul unui nou scandal. Noua funcție AI a aplicației, care ar trebui să indentifice produse iar mai apoi să le asocieze lui Tiktok Shop, a promovat diverse produse în baza oamenilor aflați în deplină suferință.
Concret, un videoclip dat exemplu arată o femeie palestiniană printre dărâmături, strigând după familia ei. În timp ce imagini atât de dureroase sunt difuzate, aplicația sugerează rochii și genți care se aseamănă cu ce purta femeia, ca și când scopul ar fi să vinzi nu să informezi. În acesr caz, algoritmul a sugerat rochii asemănătoare cu cea purtată de ea, cu denumiri precum „Dubai Middle East Turkish Elegant Lace-Up Dress” sau „Women’s Solid Color Knot Front Long Sleeve Dress”. Specialiștii din domeniul inteligenței artificiale spun că acest eveniment a avut loc pentru că sistemul nu face diferența între conținutul comercial și cel sensibil, ceea ce poate duce la situații nepotrivite.
Noua funcție AI de „căutare vizuală” identifică obiecte din videoclipuri și le asociază cu produse ce se află spre vânzare în TikTok Shop, cum ar fi de exemplu haine sau accesorii care seamănă cu ce poartă persoanele din video. Ideea este ca atunci când un utilizator pune pauză unui clip, aplicația să afișeze recomandări de articole similare cu cele din imagini, printr-o opțiune numită „Find Similar”.
TikTok a reacționat spunând că ceea ce s-a întâmplat a fost neintenționat și că face parte dintr-un test al unei funcții de căutare vizuală care nu ar fi trebuit să fie activă pe astfel de clipuri.
Pentru moment, funcția AI este disponibilă unui număr limitat de utilizatori, iar un roll-out extins ar putea avea loc abia în lunile următoare. Până atunci însă, cert este un lucru, faptul că indiferent cât de mult poate fi automatizat sau nu un algoritm, acesta nu va putea înțelege și procesa adevărata durere a unei tragedii umane.
