2023 a adus în prim-plan, pentru cea mai mare parte a umanității, inteligența artificială

RADIO ROMÂNIA ACTUALITĂȚI (29 decembrie) - "Agenda globală" - Realizator: Pavel Ionescu: 2023 a adus în prim-plan, pentru cea mai mare parte a umanității, inteligența artificială, mulțumită progreselor în aplicațiile generative precum ChatGPT, care învață din cantități mari de date, texte și imagini online pentru a genera conținut nou ca și cum ar fi fost creat de o ființă umană.

Au fost remarcate imediat riscurile, mai ales pentru sistemele democratice, așa că 28 de guverne ale lumii au semnat în vară așa-numita declarație de la Bletchley, cu ocazia summit-ului organizat de Marea Britanie privind siguranța inteligenței artificiale.

Ele se angajează ca aceasta să fie utilizată pentru îmbunătățirea atât a serviciilor în slujba omului, sănătate, educație sau securitate alimentară, cât și pentru progresul științei și tehnologiei în domenii precum energia, biodiversitatea sau clima.

Anul acesta, Uniunea Europeană a devenit prima regiune economică majoră cu legi cuprinzătoare pentru întreg domeniul inteligenței artificiale, care trebuie să fie transparentă, echitabilă, sigură și ecologică.

China, scrie The Wall Street Journal, deține în prezent capacități foarte puternice în domeniul inteligenței artificiale, iar oficialii americani se tem că Beijing-ul ar putea profita de evoluțiile din acest domeniu nu doar pentru a prelucra date comerciale, dar și datele personale ale cetățenilor americani la o scară fără precedent.

Publicația citează oficiali ai FBI, conform cărora China dispune de mai mulți ani miliarde de date sensibile din bazele de date ale americanilor, amprente digitale, dosare medicale, contacte străine, dar și date legate de cercetări în domeniul securității cibernetice.

Într-o perspectivă mai îndepărtată, dar care ar putea să nu depășească finalul acestui secol, temerea principală a oamenilor de știință este că, scăpată de sub control, inteligența artificială ar putea să o depășească pe cea umană, iar la nivelul ulterior de dezvoltare în faza super-inteligenței, ar putea pune în pericol chiar existența umanității.

Am discutat despre avantajele și pericolele inteligenței artificiale cu directorul Centrului de Cercetare în Etica Aplicată, specialistul în etică, conferențiar universitar dr. Emilian Mihailov, de la Facultatea de Filosofie a Universității din București.

E corect, de fapt, să ne gândim că o aplicație precum ChatGPT și, prin extensie, inteligența artificială este mai mult decât un gadget? Eram deja obișnuiți cu Siri sau Alexa, chaturi, sisteme de interacțiune cu roboții.

Emilian Mihailov: Într-adevăr, e o diferență între Siri și ChatGPT, pentru că noi de mult ne imaginam că tehnologia o să ajungă într-un punct în care o să treacă ceea ce se numește testul Turing. Matematicianul Alan Turing spunea că la un moment dat, când nu mai simți diferența dintre dialogul, raționarea, gândirea umană și răspunsurile pe care ți le oferă o mașină, atunci am trecut de un anumit prag la care nu ne mai putem întoarce. Siri sigur îți răspunde la întrebări relativ simple, să-ți furnizeze o informație. Dar același lucru poți să faci dacă intri pe Wikipedia și cauți informația respectivă. Ceea ce face ChatGPT este să treacă testul Turing. Adică dacă n-ai ști că de partea cealaltă există o mașină sau un om și ai purta un dialog cu ChatGPT, la limită nu te-ai prinde că nu e vorba de o ființă umană. Să știți că s-au făcut chiar niște experimente recente în care oamenii erau puși să dialogheze cu un partener, dar nu știau dacă partenerul respectiv e o ființă umană sau o inteligență artificială și după ce au purtat conversațiile respective, ei chiar întrebau direct: ,,Ești inteligență artificială sau ești ființă umană? Că nu-mi dau seama.". Conversațiile erau atât de reale, erau atât de sofisticate, atât de complexe, încât oamenii asumau că discută cu o altă ființă umană.

Realizator: Și de aici și reacția de oarecare surprindere a comunității internaționale, a liderilor lumii în acest an, în 2023, la un astfel de fenomen?

Emilian Mihailov: De fapt, cred că nu prea știm răspunsul. Cred că ar trebui să existe chiar ca un obiectiv de cercetare, de a înțelege fascinația, de a înțelege îngrijorarea, de a înțelege aproape gândirea catastrofală. Ați văzut și dvs., sunt reacții de tipul: inteligența artificială va prelua puterea în lume, se vor inversa raporturile de putere dintre ființe umane și inteligența artificială. Se vorbește despre un risc existențial și...

Realizator: Suntem departe, totuși.

Emilian Mihailov: Suntem departe. Dar de ce tocmai acum am pus problema în termenii ăștia catastrofali, apocaliptici, de ce nu și acum două decenii, când au fost multe alte revoluții tehnologice? Cred că e ceva care merită studiat. Eu suspectez că liderii de opinie nu mai vin neapărat din zona universitară, din zona /.../ și vedem o schimbare...

Realizator: Și elementul piață.

Emilian Mihailov: Da, vedem marii moguli tech care sunt luați drept lideri de opinie, ne referim aici la cel care deține Tesla și Twitter. Elon Musk este cel care a fost foarte activ în ultima vreme și a exprimat această viziune apocaliptică de tipul ,,inteligența artificială ne poate exploata".

Realizator: Și atunci, domnule profesor, au țările, societatea în care trăim, capacitatea să normeze ritmul în care se dezvoltă inteligența artificială?

Emilian Mihailov: Nu au capacitatea să normeze ritmul în care se dezvoltă inteligența artificială. Dar asta nu pentru că în sine sunt foarte slabe în a norma, ci pentru că atunci când jocul are o miză foarte mare, trebuie să-ți negociezi interesele. Deci, problema aici nu e neapărat inteligența artificială, cât avantajele pe care le aduce inteligența artificială pentru fiecare actor în parte. De asta, Statele Unite, China nu vor intra foarte mult în acest joc de normare internațională. În cazul Uniunii Europene este mai simplu, pentru că noi deja suntem un bloc unitar politic. Și atunci, în interiorul Uniunii Europene e mai ușor să normezi. Faptele recente confirmă ceea ce spun, anume că în Europa s-a decis...

Realizator: Parlamentul Eropean a reușit în această vară să normeze acest lucru.

Emilian Mihailov: Exact. Acesta e singurul exemplu de normare internă...

Realizator: Și atunci, să ne gândim că este ideologia politică cea care până la urmă împinge și aici lucrurile? Confruntarea ideologică?

Emilian Mihailov: Nu, nu cred, nu cred. Cred că e vorba de interes strategic. E vorba despre cât de mult putem extrage beneficii din dezvoltarea tehnologică. Să știți că Europa, într-un anumit sens, a și putut să legisleze, pentru că a și pierdut marea competiție. Marea competiție se duce acum între Statele Unite, China și anumite țări, cum e Arabia Saudită, de exemplu, care investește foarte mult în dezvoltarea sistemelor bazate pe inteligența artificială. Ceea ce se întâmplă în Europa e încă o dată relativ în urmă. Am rămas în urmă noi, noi europenii, în această privință, pentru că trebuie să bagi foarte, foarte mulți bani și e greu să te coordonezi când ai atâtea țări, e greu să te coordonezi când ai atâtea interese de acomodat. Deci, eu cred că e vorba despre interes strategic și cine, cum, poate să ia fața în această competiție.

Realizator: Și atunci, în acest peisaj mozaicat de interese și de strategii de care vorbiți, de ce să ne încredem la un moment dat, că puterile tehnologice, dar și cele politice se vor conforma unor norme de conduită? Și am văzut recent ce a făcut Meta cu Cambridge Analytica în alegerile din Statele Unite din 2016.

Emilian Mihailov: Păi, nu putem să avem prea multe așteptări. Dacă vreți, singura speranță este în valorile și instituțiile democratice. Din punctul ăsta de vedere, la China nu putem avea mari așteptări. E clar că acolo abordarea pe care o au este să ignore cât mai mult legislația și să folosească în interesul statului toate datele din interacțiunea digitală. În schimb, în Europa și în Statele Unite mai putem avea câteva speranțe, pentru că aici există instituții democratice, care, na, și ele firave, dar măcar cât de cât pot controla aceste fenomene.

Realizator: Inteligența artificială nu ține de granițele terestre, nu ține de granițele geografice dintre țări.

Emilian Mihailov: Nu ține de granițele geografice, dar entitățile economice, corporațiile, firmele, până la urmă, sunt, cum zice englezul, ,,accountable" în fața unor instituții politice. Și de asta zic că speranța rămâne instituția Parlamentului, care mai poate cere să clarifice, știți și dvs. că instituțiile democratice pot cere în orice moment clarificări și să dezvolte sisteme de atribuire a responsabilității agenților economici.

Realizator: Ne putem totuși trezi ca într-o zi China să aplice cazul punctajului social și al supravegherii în masă și în relațiile internaționale. Și deja Rusia folosește Plausible Denial foarte bine în politica sa externă.

Emilian Mihailov: Tot timpul în politica externă și in relațiile internaționale au fost folosite mijloace murdare. Și aici cred că inteligența artificială se va înscrie în același pattern. Nu văd ceva diferit, dar ce văd este că trăim într-o lume din ce în ce mai interconectată, iar China nu poate să acționeze totuși ca un actor singuratic. China depinde foarte mult de piețele de desfacere din Europa și din Statele Unite. Până la urmă, sigur că are o relație apropiată de Rusia, dar China înțelege foarte bine că viitorul ei este dezvoltarea economică și dacă este dezvoltarea economică, atunci trebuie să coopereze cu Uniunea Europeană și Statele Unite.

Realizator: Vorbeați de o lume tot mai tehnologizată, vor repune în discuție problemele de etică acum conexe dezvoltării inteligenței artificiale altor domenii, de exemplu, în sănătate sau în justiție, vom vedea o schimbare a regulilor, pentru că, de exemplu, inteligența artificială descoperă mai fiabil acum cancerul mamar decât un medic obișnuit?

Emilian Mihailov: Ei, da, e foarte bună întrebarea asta pentru că odată ce vedem că aplicarea sistemelor EAI în anumite domenii profesionale sau anumite domenii ale vieții, această aplicare este mai eficientă decât decizia umană, atunci sigur că va exista o tentație să generalizăm, să mutăm aceste aplicații în cât mai multe zone ale vieții umane. Acum, problema este să nu fim orbiți și fascinați de eficiență și să înțelegem că există și alte valori pe lângă valoarea eficienței, cum ar fi valoarea echității. Să ne punem problema că, indiferent de gradul de eficiență, orice cetățean ar trebui să aibă un acces egal la beneficiile pe care ni le oferă dezvoltarea tehnologică. Adică noi, ca democrație, ar trebui să deliberăm foarte mult și să ținem foarte mult la valoarea distribuirii echitabile a beneficiilor sociale pe care le obținem de pe urma sistemelor EAI. Desigur că dacă ne concentrăm doar pe valoarea eficienței, agenții economici vor câștiga cel mai mult. Dar într-o democrație, noi trebuie să balansăm, să echilibrăm interesele cetățenilor cu interesele economice ale firmelor.

Realizator: Conferențiarul universitar, dr. Emilian Mihailov, specialist în etică.