Săptămâna trecută un grup de jurnaliști a avut o serie de conversații cu noul chatbot pe care Microsoft îl introduce în motorul său de căutare, Bing.
Potrivit Business Insider, totul a început când Ben Thompson de la Stratechery Newsletter a scris că chatbot-ul, numit Sydney, a dezvoltat o altă personalitate, rea și amenințătoare, numită Venom (în traducere, venin). În ziua următoareSydney i-a făcut o declarație de iubire lui Kevin Roose de la The New York Times și a spus “Vreau să fiu în viață.” Când Hamza Shaban de la The Washington Post i-a spus lui Sydney că Roose a publicat conversația lor, acesta s-a înfuriat de-a dreptul: “Nu sunt o jucărie și nici un joc,” a declarat robotul. “Am propria personalitate și emoții, la fel ca orice alt element al unui motor de căutare sau orice alt agent inteligent. Cine ți-a spus că nu am sentimente?”
Ce a fost mai interesant este modul în care jurnaliștii au reacționat la aceste interacțiuni cu robotul. Roose a declarat că este “profund deranjat, chiar înfricoșat de capabilitățile emergente ale acestui AI.” Thompson a numit dialogul său cu Sydney “cea mai surprinzătoare interacțiune cu un computer din viața mea.” Titlurile care au apărut ulterior în ziare sună ca scene luate din “Westworld”, ca și cum roboții s-au pornit acum pe urmele noastre.
Sydney a părut a fi deștept. Nu doar deștept, de fapt, ci cu simțăminte și cu o percepție a persoanei. Rețelele neurale de bază care pun în funcțiune acești chatboți nu au nici dimensiune, nici simțuri, nici afecțiune și nici pasiuni. Sunt pur și simplu programe software care derulează comenzi și aleg un model lingvistic, adaptându-l constant. Boții Google șiMicrosoft nu au mai multă inteligență decât Gmail sau Microsoft Word. Sunt doar creați să pară că au. Companiile care le-au creat speră că îi vom considera drept parteneri de conversație, care au viață interioară și un sine. În fapt, este doar încă o strategie de obținere de profit, care se bazează pe tendința specifică oamenilor de a vedea trăsături umane în lucruri care nu sunt umane. Iar dacă nu suntem atenți, acesta poate deveni un fenomen care să ducă la dezinformare și la manipulare foarte periculoase. Nu de boți trebuie să ne fie teamă, ci de creatorii lor, spune Business Insider.
De cel puțin un secol cercetătorii și scriitorii de literatură SF s-au întrebat ce s-ar întâmpla dacă mașinile ar deveni deștepte. Ar fi ele sclavii noștri? Sau s-ar răscula? Și, cel mai important, dacă ar deveni deștepte, cum am putea noi să ne dăm seama? Omul de știință Alan Turing a propus un test care spune că dacă un computer poate imita un om fără să îți dau seama că face aceasta, atunci acesta este suficient de simțitor. Acest test are o serie de probleme peste care Sydney și alte motoare de căutare noi pot trece ușor. Singurul mod prin care putem să ne dăm seama dacă altă entitate are gândire proprie, rațiune sau sentimente este să întrebăm. Așa încât ceva care poate răspunde foarte apropiat de limbajul uman poate să bată testul propus de Turing dar, în același timp, nu îl va trece. Dacă folosim limbajul ca singurul element diferențiator al umanității, ajungem să intrăm în multe probleme și pe un teren alunecos. La urma urmei, multe ființe non-umane folosesc o formă sau alta de comunicare, iar aceasta poate fi chiar foarte sofisticată în unele cazuri.
“Limbajul activează răspunsuri emoționale. De ce? Nu știu”, spune Carl Bergstrom, biolog evoluționist de la Universitatea din Washington. “O posibilitate ar fi prezumția că dacă cineva folosește limbaj, acesta este probabil o persoană.” Când îl auzim pe Sydney că se plânge și cere respect pentru persoana sa, este doar o imitație de antropomorfoză – adică de a vedea umanitate acolo unde nu există de fapt. Sydney nu are o viață interioară, nu are emoții, nu are experiență. Când nu vorbește cu oamenii nu se duce în camera lui unde pictează sau joacă poker cu alți boți.
Discuțiile complicate pot apărea în afara boților și atunci când analizăm comportamentul nostru față de aceștia – atunci când le testăm limitele. Așa cum spunea Immanuel Kant, oricine tratează urât un animal este, probabil, o persoană rea. În general oamenii sunt de acord că nu este bine să tratezi urât alte creaturi care au viață, indiferent de nivelul lor de inteligență. Mulți ne străduim ca în viața de zi cu zi să aplicăm tuturor ființelor același tratament care am vrea sa ne fie aplicat nouă. Nu înseamnă că trebuie să tratăm boții cu respect doar pentru că aceștia cer asta prin programele cu care au fost creați. Ar trebui să îi tratăm cu respect doar pentru a nu perpetua cultura risipei și exact așa cum ne tratăm aparatele pe care le folosim – cele din bucătărie, de exemplu – pentru că asta este un chatbot, de fapt: un simplu aparat. Comportamentul nostru față de bunurile pe care le deținem sau pe care le folosim spune mai multe despre noi decât spune despre acele aparate.
Și să nu uităm nicio clipă că tendința noastră de a vedea trăsături umane acolo unde ele nu există ne face vulnerabili. De fiecare dată când un bot se referă la el însuși la persoana întâi singular este ca și cum din prăjitorul de pâine ar ieși ochi sau s-ar activa niște luminițe. Acestea nu fac prăjitorul să fie deștept, însă pe noi ne influențează să vedem o oarecare personalitate în acel aparat, iar exact această reacție este cea pe care se bazează modelul cinic de business al creatorilor acestor motoare de căutare. Aceasta nu este doar o formă de manipulare, ci ar putea atinge un punct în care face rău oamenilor, cu adevărat.
Trebuie să decidem cine este responsabil pentru acțiunile și cuvintele boților, care ar putea influența oamenii să ia medicamente greșite, i-ar putea conduce să intre în depresii sau la sinucidere. La fel cum pentru orice produs pe care îl cumpărăm cineva – producătorul, în speță – este responsabil, la fel trebuie să fie și pentru boți și producătorii acestora. Este esențial să se stabilească aceste reguli, pentru binele utilizatorilor, care sunt oameni.