Anthropic a anunțat săptămâna trecută că textul generat de modelele Claude va include watermark-uri invizibile și detectabile automat, pentru respectarea noilor reguli europene. În numai patru ore de la confirmarea companiei, dezvoltatorul Guillaume Meyer a publicat watermarks-remover pe GitHub, un instrument despre care susține că poate elimina aceste marcaje. Codul lui Meyer a atras peste 100 de colaboratori și a fost salvat de mai mult de 20.000 de ori pe X. Eficiența sa nu poate fi însă verificată definitiv, deoarece Anthropic nu a lansat încă detectorul oficial necesar pentru identificarea watermark-urilor Claude.
Cum funcționează watermark-urile Claude
Sistemul nu introduce neapărat caractere ascunse în text. Watermark-ul este creat printr-un tipar aplicat alegerii cuvintelor și expresiilor folosite de model, insesizabil pentru cititor, dar detectabil statistic de un instrument care știe ce tipar trebuie căutat. Tehnologia folosită se numește SynthID și a fost dezvoltată de Google, care o aplică pentru marcarea conținutului generat cu AI din 2023. Anthropic susține că implementarea nu schimbă sensul, calitatea sau lizibilitatea răspunsurilor oferite de Claude.
Metoda propusă de Meyer prin watermarks-remover folosește un alt model lingvistic pentru a rescrie textul în mai multe variante, înlocuind cuvinte și reorganizând ușor conținutul. Alți dezvoltatori susțin că marcajul poate fi degradat prin reformulare, condensare sau traducerea textului într-o altă limbă și înapoi.
Anthropic recunoaște că un text editat substanțial, parafrazat sau tradus ar putea să nu mai păstreze watermark-ul. Compania nu promite nici că detectorul va oferi certitudine, rezultatul fiind exprimat sub forma unei probabilități că textul a fost procesat de Claude.
Marcajele sunt introduse pentru respectarea AI Act
Noile reguli din AI Act europene cer furnizorilor de modele să marcheze conținutul sintetic audio, video, foto sau text astfel încât acesta să poată fi identificat automat. Nerespectarea obligației poate atrage amenzi de până la 3% din cifra de afaceri anuală.
Furnizorii nu pot promova instrumente pentru ocolirea marcajelor, dar regulile nu interzic dezvoltarea independentă a unor asemenea soluții. Aproximativ 190 de organizații, printre care OpenAI, Microsoft și Meta, au semnat codul european de bune practici privind
