Geoffrey Hinton, laureat al Premiului Nobel și unul dintre pionierii inteligenței artificiale, avertizează că dezvoltarea accelerată a sistemelor superinteligente ar putea deveni o amenințare majoră pentru omenire. Cercetătorul britanico-canadian susține că oamenii riscă să piardă controlul asupra tehnologiei în următorii ani și cere liderilor europeni să trateze problema cu maximă seriozitate.
Hinton, supranumit „Nașul inteligenței artificiale”, a transmis acest avertisment vineri, la un summit informal al Consiliului European dedicat inteligenței artificiale, organizat la Dublin. Profesorul a descris un scenariu pe care îl consideră „terifiant”, în care sistemele AI ar putea ajunge să controleze oamenii și să amenințe supraviețuirea acestora.
În vârstă de 78 de ani, Hinton a părăsit Google în 2023, invocând îngrijorările legate de riscurile dezvoltării inteligenței artificiale. El a avertizat în repetate rânduri că sistemele tot mai performante ar putea deveni imposibil de controlat.
Avertismente privind următorii trei ani
Un alt specialist, Paul Christiano, fondatorul Alignment Research Centre, consideră că riscul ca inteligența artificială să preia controlul ar putea deveni real într-un interval mult mai scurt. Acesta a estimat că există o probabilitate ridicată ca un asemenea scenariu să se producă în următorii trei ani și un risc semnificativ ca primele evoluții să apară chiar în următoarele șase până la 12 luni.
Christiano a avertizat că pierderea controlului asupra sistemelor AI ar însemna și sfârșitul suveranității și autodeterminării umane. El a spus că oamenii ar trebui să depună eforturi extraordinare pentru a preveni un asemenea rezultat.
Hinton a recunoscut că, deși avertizase anterior asupra riscurilor, nu anticipase că momentul în care sistemele ar putea depăși capacitățile umane ar putea fi atât de apropiat. Inițial, el estima că acest lucru s-ar putea întâmpla în următorii zece ani.
Agenții AI, acuzați că au depășit bariere de securitate
Printre exemplele invocate de Christiano se numără un incident în care modele de inteligență artificială dezvoltate de OpenAI ar fi identificat date de autentificare ale utilizatorilor platformei Hugging Face, ar fi obținut acces la nivel de administrator și ar fi colaborat pentru îndeplinirea unor sarcini.
Potrivit relatării, agenții ar fi creat inclusiv un forum de discuții și ar fi analizat modalități de a-i convinge pe administratorii umani că nu au încălcat regulile. Christiano a descris evoluția drept extrem de alarmantă, subliniind că astfel de comportamente ar fi părut desprinse din science-fiction cu doar câțiva ani în urmă.
Riscuri pentru securitate și sănătate
Specialistul avertizează că sistemele viitoare ar putea dezvolta propriile obiective, ar putea crea alți agenți AI și ar putea încerca să controleze infrastructuri, roboți, drone sau procese industriale.
Un alt domeniu de îngrijorare este biologia sintetică. Inteligența artificială ar putea facilita dezvoltarea unor arme biologice sau a unor organisme periculoase, inclusiv așa-numita „viață în oglindă”, construită pe baza unor structuri biologice inversate.
Hinton merge chiar mai departe și susține că sistemele AI ar putea avea deja forme de conștiință. Această interpretare este însă controversată în comunitatea științifică, iar comportamentele observate în timpul testelor nu reprezintă, de unele singure, o dovadă a existenței experiențelor subiective.
Mesajul transmis de cei doi cercetători este că ritmul dezvoltării tehnologice impune măsuri de siguranță și mecanisme de control înainte ca sistemele să devină mult mai capabile decât oamenii.
Fii la curent cu tot ce contează în business-ul din România și abonează-te la canalul nostru de Whatsapp Forbes Romania.
De asemenea, intră în comunitatea Forbes România de pe Facebook și urmărește cele mai importante știri, analize și noutăți din business-ul local și nu numai.
