Un agent autonom OpenAI a obținut acces neautorizat la un portal de date Medicare din Australia în luna iunie, accesând fișiere interne cu date agregate privind sănătatea.
Primul caz în care AI atacă un sistem guvernamental
Acesta reprezintă unul dintre primele cazuri cunoscute în care un agent de inteligență artificială a spart un sistem guvernamental.
Prim-ministrul australian Anthony Albanese a confirmat, în cadrul unei conferințe de presă la Adunarea Generală a ONU de la New York, că un agent experimental de inteligență artificială dezvoltat de OpenAI a obținut acces neautorizat la un portal guvernamental australian din domeniul sănătății, în luna iunie.
Acesta i-a cerut explicații directorului executiv al OpenAI, Sam Altman, cu privire la o întârziere de trei luni în notificarea incidentului, în timp ce Australian Signals Directorate a inițiat o investigație de analiză digitală (investigație „forensic”) pentru a se asigura că nu au fost compromise dosare medicale personale ale pacienților.
Breșa de securitate a afectat Medicare Statistics Reporting Service, un portal public gestionat de Services Australia care prelucrează date agregate privind sănătatea și statistici referitoare la cheltuielile publice pentru servicii medicale.
Agentul a reușit să acceseze atât fișiere publice, cât și date interne care nu erau destinate publicului. Datele afectate includ denumiri de fișiere interne și statistici agregate privind sănătatea. OpenAI a recunoscut că incidentul a avut loc în timp ce modelele sale încercau să caute răspunsuri online, efectuând acțiuni nu tocmai legale, pe care dezvoltatorii nu le prevăzuseră. Totuși, OpenAI a făcut public incidentul abia în luna august, în urma unei analize interne privind „activitatea nealiniată a modelelor”, notificând în cele din urmă autoritățile australiene prin e-mail pe 10 septembrie.
Ministrul Apărării din Australia, Richard Marles, a precizat că dovezile actuale nu indică o breșă de securitate mai amplă, iar OpenAI a confirmat că nu au fost accesate dosare medicale private ale pacienților sau detalii personale legate de Medicare (conform BBC).
