Comisarul Consiliului Europei pentru Drepturile Omului, Michael O’Flaherty, a cerut vineri statelor să accelereze negocierile pentru adoptarea unui tratat internațional obligatoriu din punct de vedere juridic, care să reglementeze utilizarea armelor autonome și să garanteze menținerea controlului uman asupra deciziilor privind folosirea forței.
„Ființele umane trebuie să păstreze un control efectiv asupra folosirii forței și să rămână responsabile pentru aceasta”, a subliniat O’Flaherty într-un articol publicat pe site-ul Consiliului Europei, înaintea celei de-a Șaptea Conferințe de Revizuire a Convenției ONU privind anumite arme convenționale (CCW), programată în perioada 16-20 noiembrie, la Geneva.
Oficialul a cerut guvernelor să susțină negocieri urgente, cu termene clare, pentru elaborarea unui instrument internațional obligatoriu privind armele autonome. El a solicitat, totodată, progrese în reglementarea celorlalte utilizări militare ale inteligenței artificiale.
Inteligența artificială ajunge să decidă asupra țintelor și atacurilor
Michael O’Flaherty a avertizat că deciziile care stabilesc cine trăiește și cine moare în conflictele armate sunt influențate tot mai mult de sisteme informatice.
Inteligența artificială este deja integrată în mai multe etape ale operațiunilor militare: colectarea informațiilor, identificarea țintelor, selectarea sistemelor de armament și adoptarea deciziilor privind utilizarea forței.
În cazul anumitor sisteme autonome, procesul poate merge mai departe. După activare, acestea pot selecta și ataca ținte fără intervenție umană directă, a explicat comisarul Consiliului Europei.
Această evoluție ridică probleme importante privind responsabilitatea pentru deciziile luate în timpul operațiunilor militare și respectarea dreptului internațional umanitar.
Sisteme opace, date părtinitoare și decizii luate în fracțiuni de secundă
Unul dintre riscurile semnalate de O’Flaherty este caracterul opac și imprevizibil al unor sisteme de inteligență artificială. Acestea pot funcționa pe baza unor date învechite sau părtinitoare și pot genera rezultate dificil de anticipat.
În plus, viteza operațiunilor militare asistate de IA poate reduce drastic timpul disponibil pentru verificarea informațiilor și evaluarea legalității unui atac.
Operatorii umani ar putea ajunge astfel în situația de a nu mai avea suficient timp pentru a confirma identitatea unei ținte sau pentru a analiza dacă o acțiune militară respectă normele internaționale.
Comisarul a atras atenția și asupra riscului ca supravegherea umană să devină pur formală. Acest lucru se poate întâmpla atunci când militarii ajung să delege deciziile către sisteme pe care le consideră mai precise sau mai fiabile decât propria judecată ori atunci când pierd efectiv controlul asupra proceselor autonome.
În asemenea condiții, responsabilitatea umană ar putea exista doar la nivel declarativ, fără o capacitate reală de intervenție asupra deciziilor luate de tehnologie.
Tehnologiile militare pot ajunge și în spațiul civil
Avertismentele oficialului Consiliului Europei nu se limitează la câmpul de luptă. Tehnologiile dezvoltate pentru utilizare militară pot fi adaptate și folosite în domenii civile, precum controlul frontierelor sau supravegherea manifestațiilor.
Există, de asemenea, riscul ca asemenea instrumente să ajungă în posesia unor actori non-statali. Inteligența artificială poate fi utilizată și pentru manipularea mediului informațional sau pentru perturbarea infrastructurilor civile.
În opinia lui O’Flaherty, extinderea acestor tehnologii impune o abordare de reglementare care să depășească strict problema armelor autonome și să ia în considerare efectele mai largi ale utilizării militare a inteligenței artificiale.
Companiile private au, la rândul lor, responsabilități
Comisarul a remarcat că reglementarea internațională nu a ținut pasul cu ritmul dezvoltării tehnologice, în special în ceea ce privește utilizarea militară a inteligenței artificiale.
El a subliniat și responsabilitatea sectorului privat. Companiile care proiectează, dezvoltă sau furnizează sisteme militare bazate pe inteligență artificială trebuie să respecte, la rândul lor, drepturile omului.
Fii la curent cu tot ce contează în business-ul din România și abonează-te la canalul nostru de Whatsapp Forbes Romania.
De asemenea, intră în comunitatea Forbes România de pe Facebook și urmărește cele mai importante știri, analize și noutăți din business-ul local și nu numai.
