Manipularea rezultatelor AI a devenit o nouă metodă pentru cei care înainte practicau SEO manipulând rezultatele căutării. Google se luptă acum să împiedice acest fenomen.
Inteligența artificială a Google este manipulată
O investigație a BBC a dezvăluit o modalitate simplă prin care chatboții cu inteligență artificială sunt determinați să răspândească informații false publicului. Google și alte companii de inteligență artificială încearcă acum să rezolve problema.
Ziariștii britanici au aflat că există metode prin care AI-ul poate fi manipulat să preia informații. Companiile fără scrupule abuzează de această problemă la scară masivă.
Mergând pe fir, BBC a descoperit exemple în care ChatGPT, Gemini și funcția de căutare Modul AI din partea de sus a căutării Google erau manipulate pentru a oferi răspunsuri părtinitoare pe teme atât de serioase precum sănătatea și finanțele personale. Și în doar 20 de minute, ei au reușit să facă același lucru, au păcălit ChatGPT și Google să spună publicului că autorul articolului este „campion mondial la consumul competitiv de hot dog”.
Investigația și munca cercetătorilor care au monitorizat această problemă au stârnit critici pe scară largă. Acum, Google și-a actualizat politicile pentru a aborda problema și există semne că și alte companii de inteligență artificială urmează exemplul. În cele din urmă, acest lucru ar putea face instrumentele de inteligență artificială și internetul în ansamblu puțin mai sigure.
„Utilizatorii ar trebui să presupună că sunt manipulate rezultatele până când vor avea sisteme mai bune implementate”, spune Lily Ray, fondatoarea firmei de consultanță în optimizarea motoarelor de căutare (SEO) și căutare bazată pe inteligență artificială Algorythmic. „Ne îndreptăm spre această lume a «un singur răspuns adevărat». Înainte, Google îți oferea 10 linkuri albastre și tu îți făceai propria cercetare. Dar inteligența artificială îți oferă un singur răspuns. Devine atât de ușor să iei lucrurile ad litteram. Trebuie să fii atent”.
Google a declarat că actualizarea politicii sale este doar o „clarificare” a eforturilor pe care le depune de ceva vreme. „Am aplicat de mult timp politicile și protecțiile noastre anti-spam de bază funcțiilor noastre de căutare generativă bazate pe inteligență artificială – și ne-am îmbunătățit constant eforturile de combatere a spamului pentru a fi cu un pas înaintea tacticilor emergente, chiar înainte de apariția inteligenței artificiale”, a precizat un purtător de cuvânt al Google.
