Sora 2, noul generator video bazat pe inteligență artificială al Open AI, aplică un watermark vizual pe fiecare videoclip pe care îl generează. Însă micul logo în formă de nor cu ochi, menit să ajute oamenii să distingă între realitate și clipurile generate de inteligența artificială, este ușor de eliminat și există multe site-uri web care ajută utilizatorii să facă acest lucru în câteva minute.
Utilizatorii ascund logo-ul AI de pe clipurile create cu Sora 2
O simplă căutare online „watermark Sora” va returna linkuri sau sfaturi cum să scapi de logo-ul care marchează clipul AI generat de Sora 2. Sunt mai multe site-uri, unde poți încărca clipul AI și se elimină acest watermark.
Hany Farid, profesor la UC Berkeley și expert în imagini manipulate digital, a declarat că nu este șocat de cât de repede au reușit oamenii să elimine watermark-ul Sora 2. „Era previzibil”, a spus el. „Sora nu este primul model de inteligență artificială care adaugă acest logo vizibil și aceasta nu este prima dată când, la câteva ore de la lansarea acestor modele, cineva a lansat cod sau un serviciu pentru a îndepărta aceste marcaje”.
La câteva ore după lansarea sa din 30 septembrie, Sora 2 s-a transformat într-o fabrică de clipuri fake după imaginația fiecăruia: SpongeBob naziști și Pickachu criminali. Open AI a redus acest tip de conținut după ce entuziasmul inițial de a vedea cum Rick și Morty se joacă cu criptomonede i-a făcut pe oameni să se grăbească să descarce aplicația. Acum, că efectul noutății se estompează, ne confruntăm cu faptul neplăcut că noul instrument Open AI este foarte bun la realizarea de videoclipuri realiste, greu de distins de realitate.
Pentru a ne ajuta pe toți să depășim momentul, Open AI a oferit soluția watermark. „La lansare, toate clipurile poartă un marcaj vizibil”, a declarat Open AI într-o postare pe blog. „Toate videoclipurile Sora încorporează, de asemenea, metadate C2PA – o semnătură standard în industrie – și menținem instrumente interne de căutare inversă a imaginilor și a sunetului care pot urmări videoclipurile înapoi la Sora cu o precizie ridicată, bazându-se pe sisteme de succes de la generarea de imagini ChatGPT și Sora 1”, au continuat ei.
Însă experții spun că aceste garanții sunt insuficiente. „Eticheta vizuală nu este suficient pentru a împiedica utilizatorii persistenți să încerce să păcălească oamenii cu conținut generat de inteligența artificială din Sora”, a declarat Rachel Tobac, CEO al SocialProof Security, pentru 404 Media.
Ca exemplu, Tobac a menționat un videoclip generat de inteligență artificială care a devenit viral pe TikTok, pe care l-a numit „stranger husband train”. În videoclip, o femeie care călătorește cu metroul cere în căsătorie un străin complet așezat lângă ea. El acceptă. Un exemplu al videoclipului a fost apreciat de aproape 5 milioane de ori pe TikTok. Nu avea watermark.
Sora 2 nu este singura aplicație de creare de video AI cu tentă realistă. Cam toți ceilalți jucători din industria AI au unelte similare. Iar numărul de site-uri care oferă unelte pentru a îndepărta marcajele AI a explodat de asemenea, permițând utilizatorilor să încerce tot mai mult să înșele lumea.
