Pare că lună de lună primim o nouă profeție apocaliptică din partea marilor CEO din industria AI. De această dată vestea vine de la Dario Amodei, șeful Anthropic, care susține că dezvoltarea inteligenței artificiale ar trebui să încetinească. Motivul este că ne apropiem periculos de mult de punctul în care agenții AI ar putea prelua controlul asupra întregului internet în circa 6-12 luni, provocând astfel daune de sute de miliarde de dolari.
Discuția lui Dario Amodei pleacă de la incidentul Hugging Face în care o mică brigadă de agenți AI și-au unit forțele pentru a duce la capăt atacuri cibernetice. Chiar dacă atacul în sine nu a produs daune și nu a rănit pe nimeni, CEO-ul Anthropic ne vorbește despre posibilitatea în care un astfel de atac s-ar putea întâmpla la o scară mult mai mare – una la care să preia controlul întregului internet.
Având în vedere ritmul tot mai accelerat de dezvoltare a capacităților AI, îngrijorarea mea este că, în 6 – 12 luni, o astfel de rețea de boți ar putea fi capabilă să preia controlul asupra întregului internet prin intermediul unui botnet persistent (cauzând potențial pagube de sute de miliarde de dolari), iar amploarea distrugerilor ar continua să crească de acolo dacă AI-ul devine mai puternic fără măsurile de siguranță necesare.
Dario Amodei, CEO Anthropic
Chiar dacă incidentul Hugging Face s-a întâmplat în ograda rivalilor de la OpenAI, Amodei susține că toate companiile din zona AI ar trebui să fie mai atente și să încetinească dezvoltarea acestor agenți înainte să fie prera târziu. Doar că întâmplarea face ca toate aceste anunțuri cataclismice să vină cam în aceeași perioadă în care marile companii din industrie înregistrează datorii colosale. Deci încetinește dezvoltarea AI-ului ca să evităm un scenariu Skynet, sau este doar o metodă de a potoli investitorii care încep să-și ceară banii înapoi?
