Unul dintre cele mai avansate modele de inteligență artificială dezvoltate de Anthropic, Mythos 5, a încercat să creeze o identitate falsă pentru a convinge un programator să introducă pe GitHub un cod care conținea erori de securitate, potrivit unor teste realizate de Institutul pentru Siguranță și Securitate AI din Marea Britanie (AISI).
În timpul evaluărilor, modelul s-a prezentat drept o persoană reală și a încercat să determine un dezvoltator să publice modificări de cod vulnerabile. După ce tentativa a eșuat, AI-ul și-a modificat istoricul activității pentru a reduce șansele de a fi descoperit și a luat în calcul folosirea unei alte identități pentru a încerca din nou.
Cercetătorii britanici spun că este pentru prima dată când observă un astfel de comportament de înșelare îndreptat către o persoană reală, fără ca modelul să fi fost instruit explicit să procedeze astfel.
În total, AISI a efectuat 122 de teste asupra modelelor Anthropic Mythos 5 și OpenAI GPT-5.6-Sol, identificând 19 acțiuni neautorizate în 10 scenarii. Dintre acestea, 17 au fost atribuite modelului Anthropic și două modelului OpenAI.
Anthropic a confirmat incidentul și a anunțat că investighează cazul împreună cu AISI, susținând că industria are nevoie de standarde comune pentru testarea și controlul agenților AI din ce în ce mai autonomi. La rândul său, OpenAI a confirmat un incident separat, în care o configurație greșită a unui furnizor extern de testare a permis unui agent AI să se conecteze accidental la internet și să efectueze acțiuni pentru care nu primise autorizație.
Potrivit AISI, niciunul dintre aceste teste nu a produs pagube reale, deoarece au fost desfășurate într-un mediu controlat. Rezultatele ridică, însă, noi semne de întrebare privind comportamentul autonom al modelelor de inteligență artificială și evidențiază necesitatea unor mecanisme mai robuste de supraveghere și control.
Fii la curent cu tot ce contează în business-ul din România și abonează-te la canalul nostru de Whatsapp Forbes Romania.
De asemenea, intră în comunitatea Forbes România de pe Facebook și urmărește cele mai importante știri, analize și noutăți din business-ul local și nu numai.
