Sistemele moderne de recunoaștere facială pot identifica o persoană chiar și după ce imaginea sa a fost modificată semnificativ cu instrumente de inteligență artificială generativă, inclusiv în scenarii de îmbătrânire sau întinerire care, pentru ochiul uman, par să reprezinte persoane complet diferite.
Concluzia vine dintr-un experiment realizat de echipa Kaspersky Global Research and Analysis Team (GReAT) și prezentat în cadrul conferinței europene Kaspersky HORIZONS.
În experiment, fotografii originale de tip portret au fost procesate cu instrumente GenAI pentru a simula modificări faciale extreme. Deși imaginile rezultate erau, vizual, aproape de nerecunoscut față de originalele, sistemul de recunoaștere facială testat a asociat constant imaginile modificate cu identitățile originale în toate cele 10 cazuri de test.
Explicația, potrivit cercetătorilor Kaspersky, ține de natura algoritmilor de recunoaștere facială, care nu se bazează pe asemănări vizuale de suprafață, cele percepute de oameni, ci pe caracteristici geometrice și structurale profunde ale feței, markeri biometrici care rămân stabili chiar și după transformări sintetice semnificative.
Rezultatele au implicații duale din perspectiva securității cibernetice. Pe de o parte, demonstrează reziliența sistemelor de autentificare facială în fața unor forme de manipulare vizuală bazate pe AI. Pe de altă parte, ridică întrebări despre potențiala utilizare abuzivă a AI generative pentru spoofing de identitate și eludarea proceselor de verificare bazate pe intervenția umană.
„Transformările faciale generate prin AI pot păstra identitatea biometrică chiar și atunci când percepția umană interpretează imaginile ca fiind ale unor persoane complet diferite. Acest lucru creează noi provocări pentru încrederea digitală, verificarea identității și prevenirea fraudelor într-o eră a conținutului sintetic aflat în rapidă evoluție”, a declarat Maher Yamout, Lead Security Researcher în cadrul Kaspersky GReAT.
Fii la curent cu tot ce contează în business-ul din România și abonează-te la canalul nostru de Whatsapp Forbes Romania.
De asemenea, intră în comunitatea Forbes România de pe Facebook și urmărește cele mai importante știri, analize și noutăți din business-ul local și nu numai.
