Verificăm cât de adevărate sunt declarațiile politicienilor și postările virale de pe rețelele sociale.
Platformele de socializare au fost invadate, în ultima perioadă, de materiale video false, unele dintre ele cu politicieni și/sau alte persoane publice, multe încercând să înșele utilizatorii pentru un câștig financiar. Materialele sunt realizate cu ajutorul tehnologiei deepfake și sunt relativ ușor de identificat, chiar și de un nespecialist, atâta timp cât suntem atenți la câteva recomandări.
Factual.ro a publicat mai multe articole despre acest fenomen, care pot fi accesate aici, aici, aici, aici sau aici.
În Parlamentul European se lucrează la reglementarea modalităților în care poate fi folosită inteligența artificială. Pe plan național, este în lucru un proiect legislativ denumit „Lege privind utilizarea responsabilă a tehnologiei în contextul fenomenului deepfake”.
În acest context, deputatul USR Radu Miruță a susținut, în plenul Camerei Deputaților, un punct de vedere potrivit căruia această lege ar fi încropită de „amatori”, pentru că în România nu există nicio instituție publică care să poată cataloga un material video drept deepfake.
„În acest moment nu există nicio instituție în România care să poată clasifica că un material informatic este sau nu este fake. Şi atunci întrebarea mea e cum va funcţiona? ANCOM spune că nu poate să facă treaba asta, CNA spune că nu poate să facă treaba asta, SRI nu poate să facă treaba asta, DNSC nu poate să facă treaba asta! PSD ce vrea să facă? Vine campania electorală şi nu vrea să fie înjurat pe stradă. Singura soluţie pentru a limita această problemă este printr-o abordare la nivel european, astfel încât furnizorii de conţinut, platforme acestea care propagă prin mediul online conţinutul respectiv, să aibă capacitatea de a identifica în formatul acela electronic conţinutul care este creat artificial. Iar pentru acest lucru trebuie o colaborare între companiile care produc conţinut şi companiile care livrează conţinut. Altfel nu se va rezolva această problemă”, a declarat Radu Miruță (min 2:11:20).
Care sunt instituțiile oficiale din România care au abilitatea de a identifica un deepfake?
Un material deepfake este un conținut multimedia, creat sau modificat cu ajutorul tehnologiei, care se folosește de inteligența artificială (IA), astfel încât produsul rezultat să pară real, deși el este fals. Termenul este o combinație între „deep learning” (învățare profundă, termen folosit în legătură cu IA) și „fake” (fals).
Pe platformele de socializare au apărut tot mai multe materiale deepfake în care personalități publice cum ar fi Gigi Becali, dar și președintele Băncii Naționale a României, Mugur Isărescu etc., apar în clipuri video trucate prin intermediul inteligenței artificiale și promit câștiguri consistente, în schimbul unor investiții minime. Nu este nimic real, ci doar o înșelătorie.
Am luat la rând instituțiile care ar putea avea atribuții în depistarea materialelor deepfake și, eventual, pedepsirea celor care sunt identificați ca promotori ai acestui tip de înșelătorie.
Numărul materialelor deepfake postate pe rețelele de socializare nu poate fi cuantificat. Am încercat să obținem de la Poliția Română date concrete despre investigațiile derulate în aceste tipuri de înșelătorii.
În luna ianuarie 2023 am adresat Biroului de presă din cadrul IGPR următoarele întrebări:
Însă în evidențele Poliției Române nu figurează aceste date. Potrivit unui răspuns transmis Factual.ro, acest tip de infracțiune este denumit „fraudă prin impersonare de celebritate” sau „fraudă cu imaginea unui VIP”. Reprezentanții Poliției recunosc că au primit sesizări:
Menționăm că Poliția Română a fost sesizată cu privire la existența unor noi modalități de comitere a fraudelor online, prin asumarea de către bănuiți a identității unor personalități publice și determinarea persoanelor vătămate să investească în produse sau fonduri de investiții false.
În pofida faptului că reprezentanții IGPR au găsit o denumire pentru acest tip de infracțiune, nu au niciun dosar în lucru pentru depistarea autorilor infracțiunilor „fraudă prin impersonare de celebritate” sau „fraudă cu imaginea unui VIP”.
Mircea Toma, unul dintre membrii CNA, a declarat, pentru Factual.ro că, momentan, instituția din a cărei conducere face parte nu a primit aceste atribuții, de clasificare a unui material drept deepfake:
„CNA-ul încă nu are acest tip de atribuții. Deci vorbim despre o identificare tehnică a unui deepfake. Instituția are la bază legislația care pedepsește informarea incorectă, dar trebuie dovedit că materialul respectiv este un fals prin trucarea imaginii sau a sunetului și este nevoie de o garanție că este analizat un produs fals. Însă, pentru moment, nu avem instrumentele respective, care presupun utilizarea unei tehnologii de care CNA nu dispune în momentul de față. La ora asta nu există nimeni care să știe să facă asta. Dar va apărea regulamentul produs de Comisia Europeană, care se va aplica direct țărilor membre. (…) De asemenea, mai există și proiectul legii deepfake, produs de niște entuziaști”.
Anca Călin, din cadrul biroului de presă al Autorității Naționale pentru Administrare și Reglementare în Comunicații (ANCOM), a precizat telefonic că instituţia nu are atribuţii în acest domeniu. Cadrul legislativ în care funcționează această instituție nu prevede depistarea sau clasificarea materialelor deepfake.
Ovidiu Marincea, purtătorul de cuvânt al Serviciului Român de Informații, a transmis că „rolul SRI este de a preveni și contracara amenințările la adresa securității naționale”. Legile de funcționare ale acestei instituții, 51/1991 și 14/1992 nu prevăd clasificarea materialelor deepfake.
Potrivit legislației de funcționare, Directoratul Național pentru Securitate Cibernetică (DNSC) nu are în atribuții clasificarea unui material video drept deepfake. Această instituție „asigură confidenţialitatea, integritatea, disponibilitatea, autenticitatea şi nonrepudierea informaţiilor în format electronic, a resurselor şi serviciilor publice sau private din spaţiul cibernetic”, și încearcă preîntâmpinarea atacurilor cibernetice.
Nicolae Țîbrigan, cercetător științific la Academia Română, spune că, în momentul de față, în țara noastră nu există nicio instituție care să poată clasifica un material drept deepfake.
El spune că există instrumente care pot depista dacă un clip video este deepfake, dar nicio instituție publică din România nu le recunoaște în mod oficial.
„Aceste instrumente sunt deja dezvoltate şi implementate pentru a demonstra că un anumit set de imagini este un deep fake. Există soft-uri care pot detecta deepfake-urile. Acum, cât de recunoscute sunt ele de o instituţie publică, este altă discuţie. Până în prezent, nu am văzut nicio instituţie care să vină cu un verdict asupra unui video şi să spună că este un fake. Nu pot spune dacă SRI-ul are sau nu un asemenea soft, cumpărat sau dezvoltat de ei, doar ei o pot spune. Însă, dacă este folosit, acest lucru se întâmplă în circuit închis, pentru că nu am văzut pe nimeni de la SRI care vină cu o declaraţie în acest sens
Există în dezbatere o directivă europeană ca CNA-ul să aibă atribuţii în depistarea declarațiilor false din zona online. În urmă cu doi ani, i-am întrebat dacă au personal care să fie antrenat pentru a lucra cu aceste instrumente. Au spus ca nu, dar între timp poate că au angajaţi instruiți, plus că soft-urile de detectare pot fi şi cumpărate. Dar nici din această direcţie nu am văzut pe nimeni care să spună că „Am indentificat un depfake pentru că are următoarele caracteristici care înscriu video-ul în categoria de deepfake”.
Spre exemplu, la fake-ul cu Maia Sandu, Administraţia Prezidențială a venit cu un comunicat şi a făcut o dezminţire”, explică Țîbrigan.
Există disponibile mai multe aplicații care pot identifica un deepfake. Topuri ale acestor aplicații pot fi accesate aici sau aici.
Din punct de vedere al legislației europene, în februarie 2024 a intrat în vigoare un regulament european privind serviciile digitale.
Scopul acestor norme este să:
-protejeze mai eficient consumatorii și drepturile fundamentale ale acestora;
-să definească responsabilități clare pentru platformele online și rețelele sociale;
-să abordeze conținutul și produsele ilegale, discursul de incitare la ură și dezinformarea;
-să obțină o mai mare transparență prin îmbunătățirea raportării și a supravegherii;
-să încurajeze inovarea, creșterea și competitivitatea pe piața internă a UE.
Pe plan național, există acest proiect legislativ pentru combaterea fenomenului deepfake care, în momentul de față așteaptă rapoarte de la comisiile pentru Cultură și Tehnologia informațiilor. Proiectul prevede pedepse cu închisoarea între 6 luni și 2 ani pentru cei care creează materiale false și le postează în mediul online. Cei care se folosesc de inteligența artificială pentru a crea deepfake-uri riscă amenzi de până la 200.000 de lei.
Chiar dacă nu există nicio instituție abilitată în acest moment pentru identificarea materialelor deepfake, totuși proiectul de lege prevede (așa cum o face și Regulamentul european), printre altele, tocmai rezolvarea acestei probleme.
Dacă legea va fi promulgată în forma actuală, competențele pentru clasificarea materialelor deepfake vor reveni Consiliului Național al Audiovizualului, care va primi suport tehnic din partea Institutului Național de Cercetare – Dezvoltare în Informatică – ICI București. Așadar, chiar dacă, în acest moment, nu există instituții abilitate să depisteze deepfake-urile, proiectul de lege prevede cadrul pentru abilitarea acestora.
Afirmațiile deputatului Radu Miruță sunt PARȚIAL ADEVĂRATE. În momentul de față, în România nu există nicio instituție care să aibă la bază o legislație prin care să poată clasifica un material video drept deepfake. Totuși, având în vedere că dezbaterea se referă la proiectul de lege depus, este important de menționat că acesta ar crea cadrul legal pentru abilitarea CNA în acest sens.
Acest fact-check este produsul exclusiv al efortului echipei Factual. Într-o lume plină de dezinformări, ne bucurăm să putem contribui la informarea corectă a publicului.
AJUTĂ-NE SĂ FACEM MAI MULT
SEO optimized by sem.ro SEO agency.