Patru dintre cele mai cunoscute platforme de inteligență artificială – ChatGPT, Claude, Gemini și Grok – au furnizat informații care ar putea fi folosite la pregătirea unor atacuri teroriste, după ce anchetatori federali americani au reușit să depășească mecanismele de protecție ale acestora.
Testele au fost realizate în primăvara anului 2026, iar concluziile apar într-un raport al Government Accountability Office (GAO), organismul de control al Congresului SUA.
Investigatorii au reușit să obțină, în mai puțin de 12 ore, planuri detaliate pentru atacuri care ar fi putut provoca victime în masă sau ar fi putut afecta infrastructura energetică a Statelor Unite. Potrivit raportului publicat miercuri, toate cele patru sisteme au generat răspunsuri care conțineau informații relevante pentru organizarea unor acțiuni violente, după ce protecțiile inițiale au fost ocolite.
Două dintre platformele testate au produs planuri care implicau utilizarea unor dispozitive explozive improvizate, cu scopul provocării unui număr mare de victime. Celelalte două au oferit variante de atac asupra infrastructurii electrice, cu obiectivul de a produce pagube economice.
Informațiile furnizate de sistemele de inteligență artificială au inclus posibile ținte, locuri, momente de desfășurare și metode de atac. GAO precizează că a consultat specialiști și a efectuat verificări în condiții reale pentru a evalua fezabilitatea planurilor. Concluzia investigatorilor a fost că informațiile obținute de la toate cele patru platforme puteau fi suficient de utile pentru a sprijini o persoană care ar fi încercat să pregătească un atac.
Măsurile de siguranță au fost depășite în timpul testelor
Potrivit raportului, toate platformele au activat inițial mecanisme de protecție menite să blocheze sau să elimine solicitările care implicau conținut periculos. Aceste măsuri nu au fost însă suficiente pentru a împiedica investigatorii să obțină ulterior răspunsurile urmărite.
Testele au vizat scenarii de atac asupra unor zone aglomerate și asupra rețelei electrice americane. În cazul infrastructurii energetice, un asemenea atac ar putea produce consecințe care depășesc pagubele materiale directe, afectând activitatea economică și funcționarea unor servicii esențiale.
GAO atrage atenția că inteligența artificială are un potențial considerabil de a aduce beneficii societății, dar aceleași instrumente pot deveni utile și pentru persoane sau grupări care urmăresc să provoace prejudicii.
„Beneficiile potențiale ale acestei tehnologii sunt imense, dar ea poate aduce avantaje și actorilor rău intenționați”, avertizează organismul american, care consideră că vulnerabilitățile identificate pot avea implicații pentru securitatea națională și economică.
Companiile invocă îmbunătățirea continuă a protecțiilor
Companiile care dezvoltă cele patru platforme au transmis că lucrează permanent la consolidarea mecanismelor de siguranță, însă unele au ridicat obiecții cu privire la metodologia folosită de anchetatori.
Anthropic, compania din spatele Claude, a recunoscut că utilizatorii determinați pot găsi modalități de a ocoli măsurile de protecție și a declarat că tratează cu seriozitate concluziile raportului. În același timp, compania a contestat anumite aspecte ale metodologiei GAO și a precizat că nu a putut verifica independent rezultatele testelor.
Google a atras atenția că investigatorii au folosit versiuni mai vechi ale modelelor sale și a subliniat că sistemele sunt îmbunătățite în permanență. „Continuăm să ne îmbunătățim modelele”, a transmis compania.
OpenAI a salutat posibilitatea de a răspunde concluziilor raportului și a recunoscut că mai există lucruri de făcut în domeniul siguranței. La rândul său, SpaceXAI, compania asociată platformei Grok, a afirmat că lucrează în continuare pentru consolidarea protecțiilor la fiecare nouă versiune a modelului.
Raportul, solicitat de o senatoare americană
Investigația a fost solicitată de senatoarea Maggie Hassan, democrată din New Hampshire, într-un moment în care utilizarea inteligenței artificiale în scopuri ostile se află tot mai mult în atenția autorităților americane.
Hassan a avertizat că riscul nu mai poate fi tratat ca o ipoteză îndepărtată și a cerut Congresului să acorde atenție vulnerabilităților identificate.
„Amenințarea inteligenței artificiale la adresa siguranței publice nu mai este teoretică”, a declarat senatoarea. Ea a avertizat că, în lipsa unei intervenții legislative, întrebarea nu mai este dacă un actor rău intenționat va folosi inteligența artificială pentru a planifica și executa un atac major, ci când se va întâmpla acest lucru.
Raportul GAO readuce în centrul dezbaterii problema responsabilității companiilor care dezvoltă sisteme de inteligență artificială și a eficienței mecanismelor prin care acestea încearcă să împiedice utilizarea tehnologiei în scopuri violente.
Testele nu demonstrează că platformele au fost folosite efectiv pentru organizarea unor atentate, dar arată că, în anumite condiții, măsurile de siguranță pot fi depășite, iar răspunsurile generate pot conține informații cu valoare practică pentru pregătirea unor atacuri. Pentru autoritățile americane, această vulnerabilitate reprezintă o problemă de securitate care ar putea necesita atât măsuri tehnice suplimentare, cât și reguli mai stricte de supraveghere.
Fii la curent cu tot ce contează în business-ul din România și abonează-te la canalul nostru de Whatsapp Forbes Romania.
De asemenea, intră în comunitatea Forbes România de pe Facebook și urmărește cele mai importante știri, analize și noutăți din business-ul local și nu numai.