De la 1 martie, în China a intrat în vigoare o lege care permite utilizatorilor să dezactiveze recomandările făcute de algoritmi. Cu alte cuvinte, Facebook sau TikTok nu-ți mai arată în feed ce vrea el, ci ce vrei sau ai tu nevoie.
Până acum algoritmii ne defineau realitatea. Ne manipulau atenția și ne făceau să ne pierdem timpul. Deși aceștia ar trebui să se supună acelorași reguli ca toate noile tehnologii, acest lucru nu se întâmplă deoarece Big Tech nu vrea ca algoritmii să fie auditați din exterior.
China este prima țară care „a întors foaia”, dând prima lege din lume care pune omul deasupra algoritmilor.
Noua lege, intitulată „Regulamentul de administrare a recomandărilor algoritmilor”, are ca scop Noua lege, intitulată „Regulamentul de administrare a recomandărilor algoritmilor”, are ca scop „regularizarea activităților de recomandare ale algoritmilor, protejarea drepturilor și intereselor cetățenilor și promovarea unei dezvoltări sănătoase a serviciilor de furnizare de informații pe Internet..
Sistemul de recomandare al algoritmilor are ca scop menținerea utilizatorilor în aplicație cât mai mult timp. Cu cât aceștia petrec mai mult timp într-o aplicație, cu atât mai mulți bani fac din publicitate companii precum Google sau Facebook.
Acest mecanism nu trebuie acceptat ca o realitate dată, mai mult, algoritmii nu ar trebui să fie optimizați pentru ținerea utilizatorului captiv în aplicație, ci în beneficiul acestuia. Cum echipele interne de etică ale giganților tech nu au suficientă influență pentru a-i determina pe aceștia să adopte practici în folosul utilizatorilor, reglementarea acestor chestiuni prin legi naționale sau internaționale este extrem de importantă.
Legea propusă de China, și care deja afectează companii precum Alibaba și Tencent, spune, la articolul 6, că „Furnizorii de servicii care fac recomandări prin intermediul algoritmilor trebuie să disemineze în mod activ energie pozitivă și să promoveze aplicarea unor algoritmi care să fie buni.”
Formularea nu e întâmplătoare, de vreme ce atât de mult timp am acceptat că algoritmii sunt un rău necesar, că ne dau ceva în schimbul atenției noastre, a timpului nostru și a sănătății noastre mentale.
Specialiștii în domeniu sunt de părere că algoritmii pot fi modificați foarte ușor pentru a proteja sensibilul psihic uman în loc să-l exploateze. Noua lege din China exact asta face: forțează TikTok să facă din starea de bine a utilizatorului scopul principal al algoritmilor săi.
La articolul opt, legea spune că „Providerii de servicii nu vor dezvolta algoritmi care să inducă utilizatorilor dependență sau tendința de consum în exces”.
Algoritmii pot provoca dependență prin intoxicarea utilizatorului cu conținut. 70% din timpul pe care un utilizator îl petrece pe YouTube este alocat vizionării clipurilor recomandate. Facebook își propunea de la început ca utilizatorii săi să petreacă pe platformă cât mai mult timp posibil, în timp ce feed-urile TikTok For You sunt concepute astfel încât să-i atragă utilizatorului atenția printr-un flux de conținut personalizat.
Articolul 13 abordează problema știrilor false. „Furnizorii de servicii … nu vor genera știri false și nici nu le vor distribui.”
Știrile false sunt principala problemă a modului în care ne informăm în zilele noastre. Algoritmii pot crea conținut și pot face oamenii să discute pe forumuri. Cum oamenilor le place să citească lucruri care le confirmă convingerile, algoritmii le vor „cânta în strună”: vor furniza acele știri, adevărate sau false, care să le întărească părerile.
Știrile false au ca țintă grupurile vulnerabile. Utilizatorul nu mai are acces la o a doua opinie, nu are contact cu alte perspective asupra realității. Iar cei care au îndoieli sau sunt de altă părere se trezesc că deciziile sunt luate de o majoritate influențată de o anumită narațiune.
Cel mai important articol al legii este numărul 17, care spune că furnizorii de servicii trebuie să ofere utilizatorilor opțiunea de a dezactiva serviciul de recomandare bazat pe algoritmi.
Această lege singură ar putea schimba radical peisajul în care activează companiile de tehnologie occidentale, permițându-le utilizatorilor să impacteze sursele de venituri pentru Facebook, Instagram, YouTube, Twitter sau Reddit, dar și ale altor platforme care obțin venituri din reclame.
Este un demers care permite utilizatorilor de social media accesul într-un mediu virtual care nu este personalizat artificial și unde au libertatea de a fi cu adevărat ei înșiși, cu lucrurile care le plac, cu opiniile lor, cu ceea ce vor să facă sau nu, să vadă sau nu, să cumpere sau nu.
Este interesant că inițiativa vine din China, care se plasează astfel în pole position-ul utilizării inteligenței artificiale în mod etic. Legi asemănătoare vor fi probabil adoptate în curând în Europa și SUA. Întrebarea care se pune este dacă vor fi giganții tech dispuși să piardă o mulțime de bani de dragul bunăstării utilizatorilor.
Foto Shutterstock