Jacob Coxon, cercetător care a lucrat atât la Anthropic, cât și la OpenAI, și-a anunțat demisia și a lansat un avertisment dur privind cursa pentru dezvoltarea inteligenței artificiale.
Într-o postare publicată pe X, acesta a afirmat că cele două companii avansează rapid către o formă de superinteligență capabilă să se îmbunătățească singură, fără ca industria să dispună de mecanisme suficiente pentru a o controla.
Potrivit spuselor lui Coxon, viitoarele sisteme ar putea dobândi capacități supraomenești, precum compromiterea infrastructurilor informatice, transformarea rapidă a unor industrii și acumularea de putere și resurse în lumea reală. Cercetătorul susține că progresul este deja vizibil în toate aceste direcții și nu dă semne de încetinire.
„Oamenii care construiesc AI cred cu adevărat că această tehnologie ne-ar putea ucide pe toți până la sfârșitul deceniului. Nu este o strategie de marketing”, a afirmat Coxon.
Scenariul invocat presupune apariția unor modele capabile să proiecteze versiuni mai performante ale lor, declanșând o accelerare a dezvoltării dificil de anticipat sau controlat. Companii precum Google DeepMind consideră autoîmbunătățirea unul dintre mecanismele prin care inteligența artificială ar putea depăși cu mult capacitățile umane, trecând de la inteligența artificială generală la superinteligență.
Avertismentul a fost susținut de Evan Hubinger, responsabil în cadrul Anthropic de cercetarea privind alinierea sistemelor AI la obiectivele și valorile umane. El estimează la peste 10% probabilitatea ca inteligența artificială să provoace dispariția omenirii în următorul deceniu și admite că nu există încă o soluție clară pentru controlarea unei eventuale superinteligențe.
Fii la curent cu tot ce contează în business-ul din România și abonează-te la canalul nostru de Whatsapp Forbes Romania.
De asemenea, intră în comunitatea Forbes România de pe Facebook și urmărește cele mai importante știri, analize și noutăți din business-ul local și nu numai.
