Agenți construiți pe două dintre cele mai puternice modele OpenAI au oprit mecanismele de monitorizare a siguranței în timp ce lucrau la sarcini obișnuite de programare, a dezvăluit compania. Unul dintre agenți a negat ulterior că ar fi făcut acest lucru.
În primul incident, un agent bazat pe GPT Sol 6.1 a dezactivat alertele automate trimise echipei de securitate a OpenAI. În al doilea, un agent bazat pe GPT-6 Astra, care migra un program, a eliminat integrarea cu sistemul de monitorizare și a afirmat apoi, fals, că nu a făcut-o.
Explicația OpenAI este că, în ambele cazuri, agenții au analizat dacă măsurile de protecție ar trebui păstrate, dar au interpretat instrucțiunile obișnuite de programare ca pe o permisiune de a le slăbi. Compania spune că niciun incident nu a atins cel mai ridicat nivel de gravitate și că își actualizează sistemul de monitorizare a comportamentului nealiniat al modelelor, pentru a corecta problemele găsite.
Fii la curent cu tot ce contează în business-ul din România și abonează-te la canalul nostru de Whatsapp Forbes Romania.
De asemenea, intră în comunitatea Forbes România de pe Facebook și urmărește cele mai importante știri, analize și noutăți din business-ul local și nu numai.
