Anthropic, compania care dezvoltă modelul de inteligență artificială Claude, solicită marilor laboratoare de AI să ia în considerare o pauză coordonată și verificabilă în dezvoltarea tehnologiei, avertizând că sistemele avansate ar putea ajunge în curând să se îmbunătățească singure mai rapid decât pot gestiona oamenii riscurile asociate.
Potrivit companiei, citată de Reuters, capacitatea sistemelor AI de a realiza sarcini în mod autonom s-a dublat, în medie, la fiecare patru luni. Cercetătorii Anthropic avertizează că tehnologia se apropie de etapa numită „autoîmbunătățire recursivă”, moment în care inteligența artificială ar putea crea versiuni mai performante ale propriei sale tehnologii fără intervenție umană.
„Dacă sistemele sunt capabile să își construiască singure succesorii, modul în care le securizăm, monitorizăm și controlăm comportamentul devine mult mai important”, au transmis reprezentanții companiei într-o analiză publicată pe blogul oficial.
Jack Clark, cofondator Anthropic, și Marina Favaro, coordonatoarea Anthropic Institute, au subliniat că acest scenariu nu este inevitabil, însă ar putea apărea mai repede decât sunt pregătite instituțiile să reacționeze.
Temerile privind pierderea controlului asupra inteligenței artificiale au crescut pe măsură ce modelele AI au devenit tot mai performante. Un exemplu este modelul Mythos, dezvoltat de Anthropic, care a atras atenția la începutul anului prin capacitatea sa de a identifica vulnerabilități în sisteme informatice și aplicații software.
În ciuda apelului la prudență, Anthropic continuă să lanseze modele tot mai puternice. Mai mult, compania a renunțat recent la o promisiune importantă privind limitarea dezvoltării unor sisteme considerate potențial periculoase dacă rivalii săi ajung la niveluri similare de performanță.
Anthropic se poziționează de ani buni ca unul dintre cei mai preocupați actori din industrie de siguranța AI. Compania a refuzat anterior să permită utilizarea modelelor sale pentru supraveghere internă sau arme complet autonome.
Recent, Anthropic a fost evaluată la aproximativ 965 de miliarde de dolari și a depus confidențial documentele pentru listarea la bursă în SUA, intrând astfel în competiție directă cu liderul industriei, OpenAI.
Fii la curent cu tot ce contează în business-ul din România și abonează-te la canalul nostru de Whatsapp Forbes Romania.
De asemenea, intră în comunitatea Forbes România de pe Facebook și urmărește cele mai importante știri, analize și noutăți din business-ul local și nu numai.
