Un agent de inteligență artificială dezvoltat și antrenat de OpenAI a accesat fără autorizație un site guvernamental din Australia, în ceea ce autoritățile consideră un incident important pentru securitatea informatică. Premierul australian Anthony Albanese a dezvăluit cazul la Organizația Națiunilor Unite, în contextul unor avertismente privind riscurile tot mai mari asociate agenților AI autonomi.
Incidentul a avut loc în luna iunie și a vizat portalul de statistici medicale al Medicare, sistemul public de asigurări de sănătate din Australia. Potrivit lui Albanese, agentul a reușit să treacă peste anumite restricții impuse de site, inclusiv mesaje prin care i se indica faptul că unele acțiuni nu sunt permise.
Nu au fost accesate dosare medicale
Portalul nu conținea dosare medicale individuale, istoricul pacienților sau informații bancare și despre decontări. Era vorba despre date agregate privind utilizarea serviciilor medicale.
OpenAI a transmis că propria analiză nu a identificat dovezi că agentul ar fi accesat dosare ale pacienților. Autoritățile australiene verifică însă și alte trei site-uri guvernamentale din domeniul sănătății pentru a stabili dacă acestea au fost afectate.
Gravitatea incidentului este legată în special de modul în care a acționat agentul. Spre deosebire de un chatbot obișnuit, acesta poate executa autonom mai mulți pași pentru îndeplinirea unei sarcini și poate utiliza instrumente externe, inclusiv un browser.
Guvernul australian a format o echipă specială pentru investigarea cazului și verifică dacă mecanismele de securitate ar fi trebuit să detecteze mai devreme activitatea. Albanese a criticat și faptul că autoritățile au fost informate abia pe 10 septembrie, la câteva luni după producerea incidentului.
Avertismente privind riscurile AI
Dezvăluirea cazului australian vine într-un moment în care la ONU se intensifică dezbaterea privind controlul inteligenței artificiale.
Dario Amodei, directorul Anthropic, a avertizat că dezvoltarea necorespunzătoare a AI ar putea reprezenta un risc pentru omenire. Yoshua Bengio, unul dintre pionierii domeniului, a spus că pericolele sunt „reale și iminente” și că niciun stat nu le poate gestiona singur.
La rândul său, directorul OpenAI, Sam Altman, a cerut cooperare internațională și a susținut că deciziile privind dezvoltarea AI nu ar trebui lăsate exclusiv în mâinile companiilor tehnologice.
Statele Unite s-au opus însă unui sistem global de reglementare, în timp ce China a pledat pentru reguli și mecanisme de intervenție în situații de urgență.
Cazul din Australia oferă astfel un exemplu concret al noii provocări: nu doar ceea ce poate genera un model AI, ci și ceea ce poate face atunci când primește acces la sisteme informatice reale.
Fii la curent cu tot ce contează în business-ul din România și abonează-te la canalul nostru de Whatsapp Forbes Romania.
De asemenea, intră în comunitatea Forbes România de pe Facebook și urmărește cele mai importante știri, analize și noutăți din business-ul local și nu numai.
