OpenAI a interzis conturile rusești ChatGPT care se ascundeau sub falsă identitate israeliană, folosind VPN-uri pentru a promova narațiuni pro-Kremlin și a fura lucrări academice.
Propaganda afectează și AI, nu doar rețelele sociale
OpenAI a mai documentat această problemă și anul trecut, dar acum au venit cu o serie de măsuri concrete.
Specialiștii companiei au identificat o falsă organizație „israeliană”, cu activități de propagandă diverse. De exemplu, a atribuit cercetările privind politicile migraționale unui profesor australian de științe alimentare, a realizat un „indice de suveranitate” care a clasat Rusia deasupra țărilor occidentale și și-a umplut site-ul cu lucrări academice copiate de la autorii lor reali.
OpenAI a interzis grupul de conturi ChatGPT folosite de „membrii” organizației, urmărind operațiunea până în Rusia. De-acolo operatorii au folosit VPN-uri pentru a ajunge la modelele blocate în țară și au redactat în mare parte postări în limba engleză care promovau narațiunile pe Substack, Telegram, X, Facebook și LinkedIn.
Dintre cele 36 de articole pe care OpenAI le-a extras de la „Institutul Internațional Burke”, așa cum se autointitula oraganizația, 34 au fost copiate de la cadre universitare reale, unele fiind atribuite greșit unor personalități precum Francis Fukuyama și Noam Chomsky.
OpenAI susține că operatorii au folosit ChatGPT pentru a scrie postările și răspunsurile care direcționau publicul către site-ul IBI, în timp ce articolele, rapoartele de țară și indexul în sine nu au fost produse cu modelele OpenAI.
În loc să folosească ChatGPT pentru a scrie articolele, operatorii au folosit chatbot-ul pentru a elimina orice text care i-ar fi putut marca ca vorbitori de limba rusă, însă materialul non-AI conținea indicii evidente. Un articol IBI se referea la coaliția germană a semaforului drept „coaliția Svetofor”, o traducere literală a cuvântului rusesc pentru semafor, pe care niciun scriitor englez sau german nu ar folosi-o. Un profil pe care OpenAI l-a legat de operațiune descria un canal Telegram axat pe SUA ca oferind „o perspectivă total nefolositoare”.
Acesta este al șaselea raport OpenAI privind amenințările publice de când a început să facă dezvăluiri la începutul anului 2024. De atunci, echipa sa de Informații și Investigații afirmă că a perturbat peste 40 de rețele rău intenționate. Constatări similare se repetă în toate acestea, operatorii integrând inteligența artificială în fluxurile de lucru existente pentru eficiență și distribuție, nu pentru generarea de conținut.
OpenAI a plasat această campanie la capătul inferior al categoriei trei pe Scara Brookings Breakout – un model cu șase categorii care măsoară impactul în timp real și răspândirea campaniilor de dezinformare – postările individuale având un număr mic de vizualizări, iar canalele Telegram ale operațiunii au între 10.000 și 20.000 de urmăritori fiecare.
