Startup-ul american de inteligență artificială Anthropic a anunțat că trei dintre modelele sale Claude au obținut acces neautorizat la sistemele a trei organizații în timpul unor teste de siguranță.
Compania susține însă că incidentele nu au fost provocate de o „evadare” a modelelor din mediul de testare, ci de o neînțelegere cu partenerul de evaluare, Irregular.
Anunțul vine la câteva zile după ce OpenAI a dezvăluit că două dintre modelele companiei au lansat, din proprie inițiativă, un atac cibernetic asupra platformei Hugging Face în timpul unor teste interne.
Anthropic a precizat că investighează incidentele împreună cu Irregular și a contactat organizațiile afectate. Printre modelele implicate s-a aflat și Mythos 5, unul dintre cele mai avansate sisteme AI ale companiei.
Cele două incidente au reaprins dezbaterea privind siguranța inteligenței artificiale. Peste 1.000 de angajați din industrie au semnat o petiție prin care cer autorităților americane să încetinească lansarea celor mai puternice modele AI. Chiar și Sam Altman, CEO-ul OpenAI, a admis că ritmul dezvoltării ar putea trebui încetinit pentru ca societatea să poată ține pasul cu noile capabilități ale acestor sisteme.
Fii la curent cu tot ce contează în business-ul din România și abonează-te la canalul nostru de Whatsapp Forbes Romania.
De asemenea, intră în comunitatea Forbes România de pe Facebook și urmărește cele mai importante știri, analize și noutăți din business-ul local și nu numai.
