Compania americană de inteligență artificială Anthropic a blocat mai multe încercări de utilizare a modelelor sale Claude pentru cercetări biologice care ar fi putut contribui la dezvoltarea unor arme biologice, potrivit unui raport publicat de companie.
Anthropic a identificat cinci cazuri în care cercetători au încercat să ocolească măsurile de siguranță ale modelelor și să obțină sprijin pentru proiecte de cercetare biologică cu potențial de utilizare militară. Compania nu a făcut publice numele instituțiilor implicate sau țările de origine, precizând că nu a putut stabili cu certitudine intenția utilizatorilor.
Unul dintre cazuri a vizat cercetări asupra virusului chikungunya, inclusiv activități de tip „gain-of-function”, care pot avea aplicații medicale, dar pot fi utilizate și pentru creșterea periculozității unui agent patogen. În alte situații au fost identificate solicitări legate de cercetarea gripei aviare.
Anthropic afirmă că modelele sale mai vechi nu puteau oferi un sprijin semnificativ unui cercetător experimentat în astfel de activități. Evoluția rapidă a capacităților modelelor de inteligență artificială a schimbat însă situația, determinând compania să introducă restricții mai stricte pentru o gamă mai largă de solicitări privind cercetarea biologică cu potențial de utilizare duală.
Raportul arată că încercările de utilizare abuzivă a modelelor AI nu s-au limitat la domeniul biologic. Anthropic a identificat și operațiuni de atacuri cibernetice, supraveghere, propagandă și dezvoltare de software asociat unor arme convenționale.
Compania susține că publicarea acestor cazuri este necesară pentru ca industria AI și autoritățile să poată identifica mai rapid noile forme de abuz pe măsură ce modelele devin capabile să rezolve sarcini tot mai complexe.
Fii la curent cu tot ce contează în business-ul din România și abonează-te la canalul nostru de Whatsapp Forbes Romania.
De asemenea, intră în comunitatea Forbes România de pe Facebook și urmărește cele mai importante știri, analize și noutăți din business-ul local și nu numai.
