Experţi în inteligenţă artificială şi-au exprimat îngrijorarea, după ce munca lor a fost menţionată într-o scrisoare deschisă, semnată de Elon Musk şi alte personalităţi, care cer o pauză urgentă a cercetărilor în acest domeniu, din cauza riscurilor pentru umanitate pe care le implică.
Scrisoarea din data de 22 martie, semnată de peste 1.800 de persoane până vineri, cere suspendarea pentru şase luni a dezvoltării de sisteme ”mai puternice” decât noul GPT-4 al OpenAI, susţinut de Microsoft, care poate purta o conversaţie umană, compune cântece şi realiza rezumate ale unor documente lungi, notează Reuters.
De la lansarea ChatGPT de anul trecut, companiile rivale s-au grăbit să lanseze produse similare.
Scrisoarea deschisă avertizează că sistemele AI cu inteligenţă umană competitivă prezintă riscuri profunde pentru umanitate, citând 12 cercetări ale unor experţi, inclusiv cadre universitare, precum şi actuali şi foşti angajaţi ai OpenAI, Google şi ai subsidiarei sale DeepMind.
Grupuri ale societăţii civile din SUA şi UE au exercitat presiuni de atunci asupra parlamentarilor, să frâneze cercetările OpenAI.
Criticii au acuzat Institutul Viitorul Vieţii (FLI), organizaţia din spatele scrisorii, finanţată în principal de Fundaţia Musk, că acordă prioritate potențialelor scenarii apocaliptice, în detrimentul preocupărilor mai urhente legate de inteligenţa artificială, cum ar fi prejudecăţile rasiste sau sexiste care sunt programate în maşini.
Printre cercetările citate s-a numărat ”On the Dangers of Stochastic Parrots”, o lucrare binecunoscută, în colaborare cu Margaret Mitchell, care a supravegheat anterior cercetările etice AI la Google.
Mitchell, acum om de ştiinţă etic la firma de inteligenţă artificială Hugging Face, a criticat scrisoarea, precizând pentru Reuters că nu este clar ce este considerat ”mai puternic decât GPT4”.
”Tratând o mulţime de idei îndoielnice ca fiind un dat, scrisoarea afirmă un set de priorităţi şi o naraţiune despre AI care este în beneficiul susţinătorilor FLI. Ignorarea daunelor active chiar acum este un privilegiu pe care unii dintre noi nu îl avem”, a spus ea.
Coautorii ei, Timnit Gebru şi Emily M. Bender, au criticat de asemenea scrisoarea pe Twitter, Bender descriind unele dintre afirmaţiile drept ”dezlănţuite”.