Anthropic a acuzat Alibaba că au generat peste 25.000 de conturi fake pentru a antrena AI-ul lor Qwen cu ajutorul Claude. Deciziile americane de a restricționa accesul la AI au venit imediat după descoperirea acestui caz.
Încă un domeniu unde chinezii au copiat munca americanilor
Anthropic a acuzat oficial Alibaba că a folosit 25.000 de conturi false pentru a-l interoga pe Claude de 28,8 milioane de ori într-o campanie pe care o consideră o tentativă de furt a drepturilor intelectuale care viza antrenarea modelului Qwen al Alibaba. Se presupune că guvernul chinez a fost implicat în acest caz, ceea ce a dus la controale americane asupra exporturilor modelelor Mythos și Fable ale Anthropic, pe fondul preocupărilor legate de securitate.
Anthropic au denumit incidentul „atac de distilare”. Un atac de distilare, cunoscut și sub denumirea de atac de extragere a modelului, implică interogarea unui model rival de inteligență artificială la scară industrială și utilizarea rezultatelor acestuia pentru a antrena un model mai mic și mai puțin capabil.
Atacatorul interacționează cu sistemul țintă ca un utilizator obișnuit, dar cu milioane de solicitări atent elaborate, concepute pentru a extrage cele mai valoroase capabilități ale sale. Important este că acest lucru nu înseamnă că Alibaba a obținut codul sursă, ponderile modelului sau datele originale de antrenament ale lui Claude. Presupusa campanie a implicat, în schimb, colectarea răspunsurilor lui Claude la scară largă și utilizarea lor ca material de antrenament.
Potrivit Anthropic, campania a fost concepută special pentru a ajuta modelul Qwen al Alibaba să se apropie de capacitățile modelului de frontieră Mythos Preview al Anthropic, care se concentrează pe codare avansată, raționament în mai mulți pași și sarcini de securitate cibernetică. Anthropic a susținut că guvernul chinez a fost complice la acest efort și a descris atacurile de distilare ca transformând sute de miliarde de dolari din investițiile americane în inteligență artificială într-o subvenție pentru competitorii geopolitici.
