Până la sfârșitul lunii viitoare va fi adoptată o lege care va reglementa modul în care Inteligenţa Artificială este folosită în România

Realizator: Vorbim la radio despre proiectul de lege care introduce sancţiuni pentru persoanele ce folosesc inteligenţa artificială pentru a crea conţinut audio sau video fals şi care ar urma să intre săptămâna aceasta la vot în Camera Deputaţilor. Viitoarea lege prevede amenzi de până la 90.000 lei, iar în situaţia unor încălcări foarte grave vor fi şi pedepse cu închisoarea. Conform legii, producţiile realizate cu ajutorul inteligenţei artificiale pot fi difuzate în mass-media sau distribuite pe platformele online, doar însoţite de mesajul "Acest material conţine iposaze imaginare". Aşa-numita Lege deepfake este necesară în contextul în care în spaţiul public s-au înmulţit marialele profund false. Afirmaţia îi aparţine ministrului cercetării, inovării şi digitalizării, Bogdan-Gruia Ivan, care astăzi este invitatul "Apelului matinal". Bună dimineaţa.
Bogdan-Gruia Ivan: Bună dimineaţa dvs. şi ascultărilor Radio România.
Realizator: Când ar putea intra în vigoare noua lege?
Bogdan-Gruia Ivan: În momentul de faţă, după ce au fost primite mai multe inputuri tehnice din partea marilor platforme tehnologice, de la Meta până la Google, urmează ca această lege să fie updatată cu amendamente tehnice foarte clare în comisii, urmând ca să intre la vot în cel mai scurt timp, imediat după ce se aliniază cu prevederile tehnice de care avem nevoie efectiv pentru a putea să fie implementată. Este o lege care vine la pachet cu altă lege extrem de importantă, reglementată la nivel european, automat şi în România, Digital Service Act, în care toate drepturile din viaţa fizică sunt transpuse şi în viaţa online. De exemplu, dacă cineva ne denigrează în viaţa fizică sau ne şantajează sau ne hărtuieşte are aceleaşi responsabilităţi şi dacă face acelaşi lucru pe o platformă de socializare. Din acest punct de vedere este evident faptul că, referitor la fenomenul deepfake şi la clipurile video care sunt create cu inteligenţă artificială şi nu reflectă realitatea, trebuie luate nişte măsuri şi trebuie luate nişte măsuri într-un timp scurt, dar făcute într-o formă care să poată să fie şi aplicată. Aşa că stăm foarte aproape şi în colaborare directă cu platformele mari de tehnologie pentru a ne asigura că aceste falsuri care ajung în spaţiul public nu vor afecta masiv oamenii. Pot să fie situaţii în care să afecteze modul în care oamenii se raportează la alegeri, fie situaţii denigratoare pentru persoanele publice, pot să fie situaţii în care vorbim despre fraudă, în care oamenii sunt îndemnaţi să facă anumite investiţii financiare sau să-şi dea datele bancare şi din acest punct de vedere sunt lucruri total noi cu care ne confruntăm şi pe care facem tot posibilul să le reglementăm într-o formă cât mai clară.
Realizator: Dar cine şi cum va putea monitoriza conţinutul apărut online pentru a putea aplica viitoarele prevederi legale?
Bogdan-Gruia Ivan: Tocmai despre asta este vorba. În primul şi în primul rând discuţiile care le-am setat împreună cu marile plafore tehnologie sunt cele în care filtrele pentru acest tip de conţinut să fie unele mult mai consistente. Adică în primul rând să fie mai complicat să încarci un videoclip creat cu inteligenţă artificială, care nu reflectă realitatea, iar în al doilea rând, în clipa în care este încărcat respectivul conţinut, el să poată să fie raportat şi automat eliminat într-un termen cât mai scurt de pe platformă, să fie verificat şi după asta, în cazul în care reclamaţia este una falsă, /.../ să fie pus înapoi dacă nu este făcut cu inteligenţă artificială, iar în situaţia în care este unul fals, atunci să nu mai poată să fie încărcat înapoi în platformă.
Realizator: Avem şi un nou regulament european pentru inteligenţa artificială. Cum mai poate România să combată eficient acest fenomen deja, deepfake?
Bogdan-Gruia Ivan: În momentul de faţă, la nivel european, aşa cum aţi spus şi dvs., este acest regulament AI Act. România are în dezbatere publică şi urmează să promoveze un act normativ printr-o hotărâre de guvern referitor la strategia de inteligenţă artificială a României, la care a lucrat încă din septembrie anul trecut, care respectă atât prevederile europene pe AI Act, cât şi recomandările companiilor din domeniu. Aşa că noi, până la finalul lunii martie cel târziu, vom avea un act normativ foarte clar care reglementează modul în care inteligenţa artificială este folosită în ţara noastră.
Realizator: Există o evaluare asupra impactului avut până acum de materialele mai ales video, false, materiale deepfake, cele care în ultima perioadă au vizat inclusiv companii importante din România sau chiar politicieni?
Bogdan-Gruia Ivan: Avem situaţii foarte clare de reclamaţii către organele statului atunci când vorbim despre folosirea imaginii unei personalităţi publice, de la miniştri până la guvernatorul Băncii Naţionale. Dar o situaţie foarte clară, cu toate videoclipurile, care sunt unele şi umoristice, este foarte clar că nu ai de unde să ai, pentru că vorbim de un volum uriaş de date.
Ceea ce se poate face şi discutăm cu companiile de tehnologie este crearea acelui avatar de date biometrice în care ştim că o anumită persoană publică nu poate să fie replicată ca şi imagine decât dacă apare un videoclip direct de pe conturile oficiale acelei persoane publice. Ăsta este un alt pas la care lucrăm din punct de vedere tehnic, dar sunt lucruri cu care ne confruntăm în întreaga lume. Anul 2024 este un an extrem de complicat, 4 miliarde de oameni îşi aleg conducătorii pentru următorii patru sau cinci ani. Şi acest femen este larg răspândit peste tot.
România, prin aceste două proiecte de lege care sunt aproape de a fi adoptate, prin modul în care a relaţionat cu marile companii care furnizează platforma pentru comunicarea unor astfel de clipuri video, este între primele state din lume, împreună cu Statele Unite şi cu Marea Britanie, care reglementează foarte clar acest fenomen şi îmi doresc din tot sufletul să fie un model şi pentru alte ţări.
Realizator: Aminteaţi mai devreme, folosind sintagma 'un volum uriaş de date', cum se explică seria atacurilor cibernetice asupra site-urilor unor instituţii publice, săptămâna trecută, Camera Deputaţilor, ieri, mai multe spitale.
Bogdan-Gruia Ivan: Este un război hibrid la care suntem cu toţii parte. România este ţinta a peste 25.000 de atacuri cibernetice în fiecare zi, în medie, în anul 2024. Acestea s-au intensificat începând cu anul 2022 şi au crescut în intensitate şi în complexitate de an la an. Este evident că de această dată unul din cele 25.000 de atacuri cibernetice a avut succes. În momentul de faţă avem instituţiile statului care se ocupă ca să limiteze acest efect direct, fac backup la datele care au fost criptate de către hackeri. Atât NSC, cât şi SRI sunt la faţa locului şi caută soluţii în cel mai scurt timp. Este evident că pot să fie atât hackeri freelanceri, dar şi potenţiali... /.../ încă nu este terminat raportul tehnic ca să putem să ne pronunţăm, dar pot să existe multiple variante de interes atunci vorbim infrastructura extrem de importantă a statului român, în speţă de cea medicală.
În momentul de faţă, datele care au fost criptate... iar în cele 26 de spitale care folosesc sistemul Hypocrate sunt, au backup, adică sunt copiate în serverele fizice ale spitalelor, a fost afectată doar platforma online care gestionează aceste date. Ele nu sunt în pericol, trebuie doar ca ele să fie decriptate şi automat să poată să fie accesate de către medici, de către administratorii sistemelor de spitale.
Realizator: Mulţumim pentru toate aceste precizări. Invitatul "Apelului matinal" a fost ministrul cercetării, inovării şi digitalizării, Bogdan-Gruia Ivan.