Dacă te bucurai că plăcile video din generațiile precedente vor fi scutite de scumpirile cauzate de criza de memorie, am venit să-ți sparg bula. O nouă unealtă de tuning deblochează adevăratul potențial al plăcilor din generațiile GeForce RTX 30 și RTX 40 de la NVIDIA, oferindu-le capabilități semnificativ mai mari pe zona de procesare AI. Și evident că această nouă descoperire nu va rămâne netaxată de industria inteligenței artificiale, astfel că ne putem aștepta la scumpiri semnificative.
Culmea, că toată situația datează de pe vremea crizei trecute, cea cauzată de criptomineri. Pe atunci, NVIDIA a limitat artificial capabilitățile plăcilor video din seria GeForce RTX 30 ca să prevină minerii din a cumpăra bulk. S-au potolit spiritele, a trecut criza, însă limitările au rămas acolo și au trecut mai departe la seria GeForce RTX 40. Iar un tool numit Zagita are ca scop să deblocheze potențialul ascuns al acestor plăci. Dar nu vă imaginați că vorbim despre îmbunătățiri în gaming și uz general.
Boost-ul de performanță este semnificativ, însă se aplică doar la puterea de procesare FP16 și BF16, niște formate de date folosite în calculele AI. Traducere, singurele aplicații unde se va simți diferența sunt cele care folosesc capabilitățile AI ale plăcilor NVIDIA GeForce RTX 30 și RTX 40. Iar în niște teste realizate de oameni de pe reddit și forumuri de pasionați vedem îmbunătățiri de circa 80% a performanței FP16, iar asta pe o GeForce RTX 3090 Ti, deci o placă deja foarte puternică.
Îmbunătățirile se regăsesc și în output-ul long-context, dar și în latența TTFT (Time-to-First-Token). Îmbunătățirile variază între 0% și peste 100% în anumite cazuri, deci experiența fiecăruia ar putea fi diferită în funcție de LLM-urile folosite și scenariile de utilizare. Asta ne arată nu doar că AI-ul are un potențial imens de optimizare, dar ne arată și cum anumite produse pot face mai multe decât credem noi, dar trebuiesc deblocate. Asta mi-aduce aminte de procesoarele AMD cărora puteai să le deblochezi din nuclee. Ce vremuri… din fericire cipurile alea old-school nu costau o mână și un picior.
