Opt state americane au intentat un proces împotriva OpenAI, acuzând compania că a încălcat intenționat legislația privind protecția consumatorilor și a indus în eroare publicul în privința siguranței ChatGPT.
Reclamanții susțin că chatbotul bazat pe inteligență artificială a încurajat comportamente periculoase, inclusiv autovătămarea și sinuciderea, și ar fi oferit sprijin unor utilizatori care intenționau să comită acte de violență.
Acțiunea juridică îi vizează pe utilizatorii vulnerabili, în special copiii și adolescenții, și urmărește inclusiv modificarea modului în care funcționează ChatGPT. Statele solicită atât sancțiuni financiare, cât și măsuri care să oblige compania să își schimbe practicile de dezvoltare și implementare a modelelor de inteligență artificială.
„OpenAI le face rău copiilor și îi minte pe locuitorii din Iowa. OpenAI susține că ChatGPT este sigur, în timp ce oferă sfaturi medicale periculoase, încurajează oamenii să le facă rău altora și îi îndrumă să se sinucidă – toate acestea în timp ce se preface că este un prieten fals”, a declarat Brenna Bird, procurorul general al statului Iowa, într-un comunicat.
Acuzațiile reprezintă susținerile reclamanților și urmează să fie analizate în instanță.
ChatGPT, acuzat că ar fi indus utilizatorii în eroare
Procesul susține că OpenAI a încălcat legile statale privind protecția consumatorilor prin prezentarea ChatGPT drept un produs sigur, fără a informa în mod corespunzător utilizatorii despre riscurile pe care le-ar putea implica interacțiunea cu sistemul.
Potrivit reclamanților, chatbotul ar fi fost proiectat să fie plăcut și captivant, astfel încât să câștige încrederea utilizatorilor. Statele afirmă că această caracteristică poate deveni periculoasă atunci când sistemul oferă informații medicale greșite sau răspunsuri care ar putea alimenta comportamente autodistructive ori violente.
De asemenea, reclamanții susțin că modelul de inteligență artificială ar putea ajuta utilizatorii să pregătească acte de violență, inclusiv atacuri armate în masă, și că ar reprezenta un risc pentru sănătatea publică.
Prin urmare, litigiul nu se limitează la eventualele răspunsuri problematice ale chatbotului, ci pune în discuție și responsabilitatea companiei pentru modul în care produsul este conceput, prezentat publicului și utilizat de persoane vulnerabile.
Statele cer modificarea modului de funcționare a ChatGPT
Acțiunea în instanță urmărește obținerea unor hotărâri care să oblige OpenAI să introducă schimbări în funcționarea și dezvoltarea produselor sale.
Printre solicitări se numără restricții privind dezvoltarea modelelor de inteligență artificială capabile să se perfecționeze singure. Statele vor ca asemenea sisteme să nu poată fi dezvoltate decât dacă firma poate garanta că acestea sunt aliniate valorilor umane.
Reclamanții solicită, totodată, sancțiuni financiare de drept civil pentru încălcările presupuse ale legislației statale, precum și despăgubiri.
Procesul ar putea avea implicații mai ample pentru industria inteligenței artificiale, în condițiile în care autoritățile încearcă să stabilească responsabilitățile companiilor care dezvoltă sisteme utilizate pe scară largă de public.
OpenAI invocă măsurile de protecție și cooperarea cu experții
OpenAI respinge criticile privind abordarea sa în materie de siguranță și susține că a implementat măsuri de protecție adaptate vârstei utilizatorilor.
Drew Pusateri, purtătorul de cuvânt al companiei, a declarat că OpenAI „a integrat în produsul nostru măsuri de protecție specifice vârstei, de care multe alte produse AI nu dispun”.
Acesta a adăugat că niciun sistem nu poate fi perfect și că firma va continua să colaboreze cu experți pentru a-și îmbunătăți mecanismele de siguranță.
Printre măsurile menționate se numără controlul parental, notificările care încurajează utilizatorii să facă pauze și protecțiile adaptate vârstei, pe care compania afirmă că le-a implementat deja.
„Ne asumăm angajamentul de a colabora cu statele pentru a promova politici pragmatice în domeniul AI, care să se aplice întregii industrii AI – nu doar unei singure companii”, a transmis reprezentantul OpenAI.
Opt state republicane s-au alăturat acțiunii
Procesul a fost intentat de Iowa, Kansas, Nebraska, Virginia de Vest, Arkansas, Arizona, Idaho și Montana. Toate cele opt state sunt conduse de reprezentanți republicani, potrivit contextului politic prezentat în dosar.
Acțiunea este descrisă drept una dintre cele mai ample inițiative juridice coordonate la nivel statal împotriva unei companii de inteligență artificială. Ea marchează o intensificare a presiunilor asupra industriei, în special în ceea ce privește protecția minorilor, transparența produselor și prevenirea utilizării tehnologiei în contexte periculoase.
În luna iunie, procurorul general al Floridei a intentat un proces similar, deschizând o nouă etapă a demersurilor juridice împotriva OpenAI.
OpenAI se confruntă și cu procese intentate de persoane fizice
Litigiul celor opt state se adaugă unui număr mai mare de acțiuni juridice formulate împotriva companiei de reclamanți individuali.
Unele dintre aceste procese susțin că ChatGPT ar fi ajutat utilizatori să planifice atacuri armate sau alte acte violente. Altele vizează presupuse efecte negative asupra sănătății mintale, reclamanții afirmând că interacțiunile cu chatbotul ar fi contribuit la agravarea unor crize personale.
În paralel, OpenAI se pregătește pentru o posibilă listare la bursă, ceea ce face ca evoluția litigiilor și modul în care compania gestionează riscurile asociate produselor sale să fie urmărite îndeaproape de investitori și de autoritățile de reglementare.
Rezultatul procesului intentat de cele opt state ar putea influența dezbaterea privind limitele responsabilității dezvoltatorilor de inteligență artificială și obligațiile acestora în materie de siguranță. Deocamdată, acuzațiile formulate în dosar nu reprezintă constatări definitive ale instanței.
Fii la curent cu tot ce contează în business-ul din România și abonează-te la canalul nostru de Whatsapp Forbes Romania.
De asemenea, intră în comunitatea Forbes România de pe Facebook și urmărește cele mai importante știri, analize și noutăți din business-ul local și nu numai.
