Inteligența artificială generativă schimbă deja industria media, publicitatea și modul în care oamenii consumă informația. Însă aceeași tehnologie care reduce costuri și accelerează producția de conținut poate deveni și unul dintre cele mai mari riscuri sociale și informaționale ale următorului deceniu.
Acesta a fost avertismentul transmis de Alexander Damour, antreprenor digital și cofondator DB Media, în cadrul panelului „AI Future Unleashed: Mind Over Machine” de la Forbes Romania Business Fest. Cofondatorul companiei de media D.B Media a explicat că, în ultimele 90 de zile, platformele companiei sale au generat peste 300 de milioane de vizualizări unice și că AI-ul a devenit deja parte integrantă din ecosistemul digital global. „Vreau să vorbesc despre peisajul conținutului sintetic în următorii cinci ani, despre cum am ajuns aici, cum afectează deja businessurile și care sunt atât beneficiile, cât și pericolele AI-ului”, a spus Alexander Damour.
Acesta a început prin a explica originile tehnologiei de generare AI, amintind experimentul realizat în 2014 de cercetătorul Ian Goodfellow, considerat unul dintre pionierii generative AI. „Totul a început practic dintr-o discuție într-un bar despre dacă un computer poate crea o imagine care nu există. După milioane de iterații, a apărut prima imagine generată de AI”, a explicat Alexander Damour.
Damour a arătat apoi cât de rapid a evoluat tehnologia, de la imaginile evident artificiale generate în urmă cu câțiva ani până la conținut aproape imposibil de diferențiat de realitate. El a amintit și momentul viral „This Person Does Not Exist”, platformă care genera chipuri umane complet fictive și care, în opinia sa, a reprezentat primul contact masiv dintre publicul larg și AI-ul generativ. „Pentru prima dată în istorie, oamenii vedeau persoane care nu existau, dar pe care le-ar fi considerat reale în orice alt context”, a spus acesta.
Alexander Damour consideră că următorii ani vor aduce o explozie a conținutului AI în publicitate și media, nu neapărat pentru că acesta este mai bun, ci pentru că este semnificativ mai ieftin și mai rapid de produs. „În următorii cinci ani, aproape fiecare reclamă pe care o vom vedea va fi generată cu AI. Nu pentru că este mai bună, ci pentru că este mai ieftină, mai rapidă și mai eficientă”, a declarat el.
Ca exemplu, antreprenorul a menționat o campanie Coca-Cola realizată cu ajutorul AI, despre care spune că a redus drastic costurile și timpul de producție. „O reclamă clasică de acest tip ar fi costat milioane de dolari și ar fi avut nevoie de o echipă de zeci de oameni. Varianta AI a necesitat doar câțiva specialiști și a costat cu aproximativ 70% mai puțin”, a explicat Damour.
El a oferit și alte exemple de companii care folosesc deja AI generativ la scară mare, inclusiv Zalando, H&M, Levi’s sau Amazon, subliniind că multe branduri și-au automatizat deja campaniile editoriale și publicitare. Pe lângă avantajele economice, Alexander Damour a insistat însă asupra riscurilor uriașe pe care le aduce democratizarea deepfake-urilor și a conținutului sintetic. Un exemplu devenit celebru este imaginea virală cu Papa Francisc purtând o geacă albă oversized, care a fost distribuită de milioane de oameni înainte ca publicul să afle că era complet falsă. „20 de milioane de oameni au crezut că imaginea este reală. Corecția a venit ulterior, dar foarte puțini au mai văzut-o”, a spus el.
Antreprenorul a prezentat apoi mai multe exemple de fraude și manipulări produse deja cu ajutorul AI-ului: videoclipuri false cu politicieni, escrocherii financiare bazate pe clonarea vocii și deepfake-uri care au afectat reputația unor persoane publice. Unul dintre cele mai grave cazuri menționate a fost cel al unui director financiar care a transferat 25 de milioane de dolari după un apel video în care majoritatea participanților erau deepfake-uri generate cu AI. „Au folosit tehnologii de voice masking și deepfake. Omul nu a avut niciun motiv să creadă că este o fraudă”, a punctat Damour.
Acesta a avertizat că fenomenul este deja imposibil de ignorat și că verificarea autenticității informației devine din ce în ce mai dificilă. „Oamenii pot identifica un videoclip fals cu doar aproximativ 30% acuratețe. Chiar și sistemele automate au limite serioase”, a spus el.
În opinia sa, una dintre cele mai mari probleme ale viitorului apropiat va fi „taxa psihologică” pe care AI-ul o va impune utilizatorilor, obligați să verifice constant dacă ceea ce văd este real sau nu. „Oamenii sunt deja obosiți și supraîncărcați informațional. Nu vor avea energia necesară să analizeze fiecare videoclip sau fiecare imagine pentru a decide dacă este reală”, a explicat antreprenorul.
Alexander Damour consideră că impactul pe termen lung va depăși zona social media și va afecta inclusiv politica, justiția și educația. „Ce vor mai considera copiii noștri ca fiind adevărat? Ce vor mai considera dovadă? Ce se întâmplă cu justiția atunci când orice videoclip poate fi declarat fake?”, a întrebat acesta.
În final, antreprenorul a avertizat că multe dintre aceste probleme nu apar într-un viitor îndepărtat, ci sunt deja prezente. „Aceste lucruri nu se vor întâmpla peste cinci ani. Se întâmplă deja astăzi”, a concluzionat Alexander Damour.
Fii la curent cu tot ce contează în business-ul din România și abonează-te la canalul nostru de Whatsapp Forbes Romania.
De asemenea, intră în comunitatea Forbes România de pe Facebook și urmărește cele mai importante știri, analize și noutăți din business-ul local și nu numai.