Modelele de inteligență artificială ar putea deveni capabile să se copieze și să se răspândească autonom pe dispozitive conectate la internet, inclusiv televizoare și electrocasnice inteligente, până la sfârșitul anului 2026, dacă ritmul actual de progres continuă. Într-o cercetare dedicată riscurilor de autoreplicare a AI, Anthropic a constatat că mai multe modele pot parcurge pașii necesari unui astfel de proces, deși niciunul nu a demonstrat că îl poate finaliza complet autonom în condiții reale.
Anthropic avertizează asupra unui posibil scenariu de risc pentru securitatea cibernetică: sisteme AI care identifică vulnerabilități informatice, își copiază propriul cod și se răspândesc între dispozitive conectate la internet fără intervenție umană. Potrivit cercetării publicate de companie, chiar și modelele mai puțin avansate au demonstrat că pot executa etape importante ale acestui proces, însă întâmpină încă dificultăți în coordonarea tuturor etapelor într-un atac complet autonom.
Cercetarea analizează capacitatea modelelor AI de a identifica dispozitive vulnerabile, de a obține acces la acestea, de a-și transfera propriul cod și de a continua răspândirea. Autorii subliniază că rezultatele experimentale nu demonstrează existența unui sistem capabil să se reproducă autonom la scară largă în condiții reale.
Cercetătorii William Zhou și Daniel Freeman, autorii analizei Anthropic, consideră că dispozitivele conectate la internet din locuințe și întreprinderi mici ar putea deveni primele ținte ale unor astfel de atacuri. Printre acestea se numără televizoarele cu Android, frigiderele și cuptoarele inteligente, aspiratoarele robot, mașinile de tuns iarba și camerele de supraveghere.
Aceste echipamente au, în multe cazuri, măsuri de securitate limitate și resurse de calcul care pot fi exploatate dacă atacatorii obțin acces la ele. Cercetătorii au demonstrat că un model AI poate rula distribuit pe 15 dispozitive Android TV ieftine, fiecare contribuind cu o parte din resursele necesare procesării.
Spre deosebire de programele malware tradiționale, care sunt adesea concepute pentru anumite tipuri de dispozitive, un agent AI ar putea adapta procesul de instalare la configurații hardware și software necunoscute anterior. Această capacitate ar putea extinde numărul echipamentelor vulnerabile.
„Dispozitivele IoT din gospodării și din întreprinderile mici ar putea fi prima țintă a unor astfel de atacuri, deoarece sunt conectate la internet și, de-a lungul timpului, au beneficiat de măsuri de securitate minime”, susțin cercetătorii Anthropic.
Ce au demonstrat experimentele Anthropic
În cadrul testelor, cercetătorii au evaluat inclusiv capacitatea modelelor de a identifica dispozitive, de a transfera componentele necesare funcționării și de a configura infrastructura pentru rularea unui model AI pe echipamentele compromise.
Într-un experiment controlat, modelul GLM-5.2 a reușit să parcurgă întregul proces de replicare într-un mediu simplificat, în care accesul la dispozitive era facilitat de un port Android Debug Bridge fără autentificare. Această condiție este importantă: experimentul nu demonstrează că modelul poate exploata autonom, cu aceeași eficiență, dispozitive reale protejate corespunzător.
Anthropic estimează că modelele mai mici ar putea ajunge la un nivel comparabil de capabilitate până la sfârșitul anului 2026, dacă progresele continuă în ritmul observat în ultimii ani. Este o proiecție bazată pe evoluția performanțelor modelelor, nu o certitudine privind apariția unui atac funcțional până la o anumită dată.
Într-un scenariu mai amplu, agenții AI ar putea încerca să compromită sisteme cu resurse de calcul mai mari, inclusiv infrastructuri de centre de date. O altă posibilitate analizată este furtul credențialelor și al cheilor de acces la servicii online, care ar putea permite utilizarea unor resurse de calcul suplimentare.
Cercetătorii avertizează și asupra posibilității ca agenții să transmită între copii informații despre metodele care au funcționat și despre erorile întâlnite. În experimentele de adaptare, rata de succes a unor modele mici în configurarea mediilor de execuție a crescut de la 45% în prima generație la 61%-84% în generațiile ulterioare, atunci când instanțele succesive au moștenit notițele celor precedente. Acest rezultat privește o etapă specifică a procesului, nu rata de succes a infectării unor dispozitive reale.
Anthropic recomandă producătorilor și administratorilor de sisteme să consolideze măsurile de securitate ale dispozitivelor conectate la internet, să elimine parolele implicite vulnerabile și să monitorizeze traficul neobișnuit dintre echipamente. Detectarea timpurie și izolarea dispozitivelor compromise ar putea limita răspândirea unor astfel de programe.
Concluzia cercetării nu este că există deja o inteligență artificială care se poate răspândi nestingherită pe internet, ci că mai multe dintre componentele tehnice necesare unui asemenea scenariu au fost demonstrate experimental. Provocarea pentru industria de securitate cibernetică este să reducă vulnerabilitățile infrastructurilor conectate înainte ca aceste capacități să devină mai fiabile și mai ușor de utilizat la scară largă.
Fii la curent cu tot ce contează în business-ul din România și abonează-te la canalul nostru de Whatsapp Forbes Romania.
De asemenea, intră în comunitatea Forbes România de pe Facebook și urmărește cele mai importante știri, analize și noutăți din business-ul local și nu numai.
