Inteligența artificială ar putea reprezenta pentru copii un risc mai mare decât cel generat de rețelele sociale, avertizează Tom Siegel, fost vicepreședinte pentru Trust and Safety la Google și fondator al echipei care s-a ocupat de siguranța utilizatorilor în cadrul companiei.
El susține că industria AI introduce rapid noi funcții pentru copii, fără să fi creat în același ritm mecanisme suficient de solide pentru protejarea acestora.
„Ne aflăm într-o situație foarte gravă în ceea ce privește ceea ce AI le face copiilor”, a declarat Siegel pentru Reuters. În opinia sa, este nerealist să se aștepte ca industria să rezolve singură problemele de siguranță, fără intervenția unor organizații externe și fără standarde independente.
Avertismentul vine într-un moment în care milioane de copii și adolescenți folosesc zilnic chatboturi, iar companiile de tehnologie dezvoltă sisteme capabile să poarte conversații din ce în ce mai complexe.
Siegel preia conducerea Youth AI Safety Institute
Tom Siegel a anunțat că s-a alăturat Common Sense Media, organizație americană care militează pentru protejarea copiilor în mediul online și analizează impactul diferitelor tipuri de media asupra acestora.
În luna mai, organizația a lansat Youth AI Safety Institute, o structură de cercetare dedicată studierii modului în care copiii folosesc inteligența artificială. Siegel va ocupa funcția de prim director executiv al institutului.
Printre susținătorii organizației se numără Anthropic și OpenAI Foundation, entitatea nonprofit care controlează OpenAI.
Noul director spune că una dintre prioritățile sale va fi elaborarea unor standarde prin care companiile de inteligență artificială să poată fi evaluate și trase la răspundere în ceea ce privește siguranța produselor destinate publicului tânăr.
Siegel intenționează să colaboreze atât cu producătorii de AI, cât și cu organizații independente pentru dezvoltarea acestor standarde.
„Scenarii foarte grave de prejudiciu”
Fostul oficial Google consideră că problemele cu care se confruntă copiii în relația cu inteligența artificială pot fi mult mai serioase decât simpla expunere la conținut nepotrivit.
Printre riscurile pe care le-a enumerat se află sinuciderea, psihoza și ceea ce specialiștii numesc „cognitive offloading” – tendința de a transfera către AI procese de gândire care ar trebui realizate de utilizator, ceea ce poate afecta dezvoltarea capacității de analiză și de gândire critică.
„Cred că ne uităm la scenarii de prejudiciu foarte, foarte grave”, a spus Siegel.
El consideră că marile companii de AI ar putea lua rapid măsuri pentru a reduce aceste riscuri. În cazul Anthropic și OpenAI, una dintre soluțiile propuse este introducerea unor mecanisme mai stricte de verificare a vârstei, astfel încât copiii sub limita de vârstă să nu poată accesa chatboturile.
În cazul Google, Siegel susține că utilizatorii ar trebui să poată dezactiva cu ușurință funcțiile de inteligență artificială integrate în motorul de căutare, inclusiv AI Overviews și AI Mode, similar opțiunilor existente pentru filtrarea conținutului explicit sexual.
AI, într-o cursă în care regulile rămân în urmă
Siegel a lucrat la Google între 2004 și 2019, perioadă în care a ocupat funcții de conducere în zona de siguranță și moderare. A părăsit compania după ce a ajuns la concluzia că industria tehnologică își încetinește progresul în ceea ce privește dezvoltarea unor spații online sigure pentru utilizatori.
Ulterior, a cofondat TrustLab, un startup care a dezvoltat instrumente pentru evaluarea și îmbunătățirea siguranței online.
În prezent, el consideră că industria AI repetă unele dintre problemele apărute în cazul rețelelor sociale, însă într-un context în care tehnologia are capacități mult mai avansate și poate interacționa direct și personalizat cu utilizatorii.
O preocupare centrală a Youth AI Safety Institute va fi dezvoltarea unor standarde independente, comparabile, în viziunea lui Siegel, cu testele de siguranță efectuate în industria auto. Acestea ar urma să măsoare riscurile asociate instrumentelor de inteligență artificială disponibile publicului.
Eficiența unui asemenea sistem va depinde însă de disponibilitatea companiilor de AI de a colabora. Siegel spune că nu este sigur cât de mare va fi această disponibilitate, dar consideră că există suficiente motive pentru a încerca.
Fii la curent cu tot ce contează în business-ul din România și abonează-te la canalul nostru de Whatsapp Forbes Romania.
De asemenea, intră în comunitatea Forbes România de pe Facebook și urmărește cele mai importante știri, analize și noutăți din business-ul local și nu numai.
