Anthropic a anunțat de curând că va include watermark-uri în textele generate de chatbot-ul Claude, iar asta a generat un val de reacții negative din partea utilizatorilor. Mulți se tem că acest watermark le va da de gol utilizarea de AI în anumite domenii, însă decizia nu aparție companiei. Cei de la Anthropic nu fac decât să respecte legislația AI aprobată de Uniunea Europeană în 2024, care menționează clar faptul că firmele din domeniul AI trebuie să marcheze conținutul generat sau editat de sistemele lor.
Aceste watermark-uri ar urma să vină sub forma unui tipar de cuvinte pe care Claude le va folosi atunci când oferă răspunsuri. Și chiar dacă pentru un om nu vor fi perceptibile, tiparul este detectabil cu ajutorul unor unelte specializate. Anthropic ne anunță însă că deși watermark-urile acestea vor rezista la câteva editări umane, odată trecut textul printr-un alt chatbot semnalul care marchează utilizarea de AI ar putea fi pierdut.
Era și normal ca o astfel de decizie să provoace reacții negative, iar diferitele subreddit-uri dedicate inteligenței artificiale sunt acum pline de oameni care se plâng. Unii chiar compară stigma utilizării AI cu cea asociată consumatorilor de droguri și susține că aceste watermark-uri nu fac decât să rănească utilizatorii, nu să atace cauza. Din fericire, pare că majoritatea oamenilor sunt de acord cu această modificare, ceea ce ne arată clar că propovăduitorii AI-ului nu sunt altceva decât o minoritate gălăgioasă.
Plus că mai sunt chestii de luat în considerare, precum faptul că odată ce Anthropic lansează unealta de detecție a AI-ului, vor apărea și soluțiile care să o ocolească. Același lucru s-a întâmplat și cu SynthID, unealta de la Google care detectează utilizarea inteligenței artificiale în poze. Și chiar dacă protecția n-a fost înlăturată complet, hackerii au reușit deja să păcălească sistemul prin metoda de inginerie inversă.
