Inteligența Artificială va aduce o creștere cu 14% a economiei globale până în 2030. Tehnologiile bazate pe inteligență artificială (AI) ar putea genera o creștere economică globală de 14% (15,7 trilioane de dolari) până în 2030, ca urmare a creșterii productivității din automatizarea proceselor, potrivit unui studiu realizat de PwC.
“De la asistenții personali ai telefoanelor mobile la tot ce înseamnă personalizare în interacțiunile comerciale și detectarea fraudelor și de la automatizarea unor procese și activități la strategii de lansare pe piață a noilor produse, AI va atinge aproape fiecare aspect al vieții noastre.
Și dacă în prezent, inteligența artificială automatizează sarcini care necesită și implicare umană, cercetătorii și companiile de tehnologie din întreaga lume se străduiesc să obțină o inteligență artificială autonomă, care să nu necesite intervenția umană pentru a lua decizii extrem de complexe.
Acest lucru va însemna noi modele de afaceri, fie că este vorba de servicii financiare, sănătate, energie, industrie sau media și divertisment,” susține Mircea Bozga, Partener PwC România.
Adoptarea inteligenței artificiale generative aduce și riscuri
Însă, odată cu numeroasele beneficii prezentate deja de literatura de specialitate, adoptarea inteligenței artificiale generative aduce atât riscuri la nivel de utilizare a aplicațiilor software – cum ar fi riscul de operare (de exemplu erori, operare instabilă), de securitate (fraudă, atacuri cibernetice), riscuri legate de controlul acesteia (lipsa supravegherii umane, lipsa responsabilității clare) – cât și la nivel de organizație/societale – riscul afacerii (reputație, performanță financiară, juridic și conformitate, încălcarea drepturilor intelectuale), risc economic (pierderea locurilor de muncă, polarizare) sau riscul societal în sine (manipulare și dezinformare, supraveghere și acte de război).
“Modul în care vom evalua credibilitatea informațiilor din jurul nostru se va schimba și la fel și modul în care vom lua deciziile – imaginile false, informațiile eronate sau inexacte, încălcarea drepturilor de autor, sau modurile în care vor fi colectate datele confidențiale sau cu caracter personal vor fi mai multe și mai complexe decât cele cu care suntem obișnuiți astăzi. În același timp, viteza luării deciziilor, sprijinită de digitalizare și îmbunătățirea structurilor de date, va crește semnificativ,” precizează Mircea Bozga.
Mai multe reglementări
Cea mai cunoscută reglementare în vigoare, care vizează și AI, este Regulamentul General privind Protecția Datelor (GDPR), care stabilește însă doar modul de colectare, stocare, procesare și transfer al datelor cu caracter personal.
Pentru sectorul financiar, se mai adaugă alte două, respectiv cerințele Băncii Centrale Europene, care impun entităților supravegheate să pună în aplicare măsuri eficiente de gestionare a riscurilor în ceea ce privește terții și DORA, care vizează asigurarea rezilienței operaționale și securitatea cibernetică în sectorul financiar european pentru a fi capabil să reziste în cazul unor perturbări operaționale grave.
În 2024, este așteptat actul UE privind inteligența artificială, care va reglementa dezvoltarea și implementarea inteligenței artificiale în UE. Astfel, furnizorii de inteligență artificială trebuie să evalueze și să atenueze riscurile, să respecte cerințele de proiectare, de informare și de mediu și să se înregistreze în baza de date a UE. Inteligența artificială utilizată în furnizarea de servicii financiare va fi clasificată ca fiind de risc ridicat.
La stadiul de propunere se află Directiva privind răspunderea civilă (AILD). Prin urmare, în cazul în care un sistem de inteligență artificială provoacă un prejudiciu unei persoane, dezvoltatorii unui astfel de sistem pot fi trași la răspundere pentru aceste prejudicii.
Controlul riscurilor
“Riscurile asociate inteligenței artificiale nu sunt încă un subiect în majoritatea consiliilor de administrație – răspunsurile executivilor din companiile intervievate în PwC’s 2023 Trust Survey au prioritizat riscurile asociate cu inteligența artificială cu mult sub alte amenințări cum ar fi cele de natură cibernetică (încălcarea securității datelor sau un atac ransomware), cel mai probabil datorită gradului incipient de dezvoltare al acestei tehnologii. Acest lucru se va schimba însă în curând,” arată Bozga.
PwC face câteva recomandări pe care administratorii sau executivii le pot utiliza în pregătirea organizațiilor pe care le conduc.
“Stabiliți priorități bazate pe riscuri. Unele riscuri generate de inteligența artificială sunt mai importante decât altele. Ajustați sau stabiliți reguli astfel încât echipele de guvernanță, transformare digitală dar și de conformitate, risc și audit intern să acorde o atenție sporită celor mai mari riscuri,” explică Mircea Bozga.
O altă recomandare este îmbunătățirea protecției cibernetice, a datelor și a confidențialității, prin actualizarea protocoalelor de securitate cibernetică, guvernanță a datelor și confidențialitate, pentru a contribui la atenuarea riscurilor ca inteligența artificială generativă a hackerilor să aibă acces la date private, să expună identități sau să realizeze atacuri cibernetice. O astfel de protecție cibernetică poate fi realizată printr-un proces de analiză al modului în care furnizorii aplicațiilor și site-urile folosite de organizație și care folosesc inteligența artificială generativă, colectează, stochează și transferă datele confidențiale sau importante pentru activitatea companiei..
În cazul unor sisteme de inteligență artificială generativă, “modelul de bază” utilizat pentru a produce rezultate nu este dezvăluit sau ușor accesibil utilizatorilor, ceea ce face imposibilă înțelegerea motivelor pentru care un sistem a generat anumite rezultate. Prin abordarea riscului de ne-reglementare, pot fi identificate aceste sisteme pentru a lua în considerare ce practici pot sprijini, precum și corectitudinea, acuratețea și conformitatea lor.
O altă măsură este pregătirea angajaților implicați pentru utilizarea și supravegherea responsabilă, prin învățarea noțiunilor de bază despre funcționarea inteligenței artificiale generative și, de asemenea, când este indicat să fie utilizată și când nu.
Pot fi, de asemenea, monitorizate părțile terțe,pentru a afla care dintre furnizori oferă conținut sau servicii care utilizează inteligența artificială generativă, cum gestionează riscurile aferente și care ar putea fi posibila expunere.
“Adăugați supravegherea automată. Luați în considerare instrumente software pentru a identifica conținutul generat de AI, pentru a-i verifica acuratețea, pentru a-l evalua în ceea ce privește părtinirea sau încălcarea confidențialității și pentru a adăuga avertismente, după caz.
Urmăriți evoluția discuțiilor privind reglementarea. Factorii de decizie politică din întreaga lume emit tot mai multe direcții de reglementare privind dezvoltarea și utilizarea AI. Aceste îndrumări sunt încă un mozaic, nu un cadru de reglementare complet,” explică Mircea Bozga.