O postare recentă de pe Facebook atrage atenția asupra unui text publicat pe site-ul Activenews.ro, care prezintă în mod distorsionat o intervenție a scriitorului Yuval Noah Harari. Prezent la Forumul pentru Democrație din Atena, în 2020, Harari a făcut câteva afirmații care sunt prezentate trunchiat și scoase din context în site-ul menționat. Acest videoclip a fost folosit pentru a susține diverse afirmații controversate despre tehnologie, supraveghere și control social. În acest articol verificăm atât contextul original al mesajului transmis de Harari, cât și interpretările oferite de activenews.ro.

Discursul lui Yuval Noah Harari 

În articolul de pe activenews.ro, se face referire la un mesaj al lui Yuval Noah Harari din cadrul Forumului pentru Democrație de la Atena din octombrie 2020. Activenews.ro prezintă acest discurs într-o lumină alarmistă, susținând că Harari ar fi recunoscut că „nimeni nu va scăpa” de supravegherea biometrică și inteligența artificială, comparând oamenii cu „muștele într-un insectar”. Articolul sugerează că, în următorii 10 ani, supravegherea biometrică va deveni atât de prezentă, încât viața oamenilor va fi sub control total și că, în lipsa aplicării unor măsuri, va fi prea târziu pentru a preveni acest scenariu​. Este important de menționat de la început că aceste afirmații au fost făcute în 2020, iar reglementarea Uniunii Europene privind inteligența artificială a fost adoptată patru ani mai târziu, în 2024.

Totuși, aceste afirmații trebuie analizate în contextul mai larg al discuției. În cadrul Forumului, în discursul original, Harari a vorbit despre impactul pandemiei de COVID-19 asupra tendințelor globale de supraveghere și utilizare a datelor biometrice.

Harari a subliniat că pandemia a accelerat adoptarea tehnologiilor de supraveghere, inclusiv a supravegherii biometrice, care poate monitoriza indivizii în timp real prin analizarea datelor biologice, cum ar fi temperatura corporală​.

El a avertizat că aceste tehnologii, deși pot fi utile pentru gestionarea crizelor de sănătate publică, cum ar fi COVID-19, prezintă riscuri semnificative pentru confidențialitate și libertate. Harari a explicat că supravegherea biometrică ar putea fi folosită de regimuri autoritare pentru a consolida puterea și a controla populațiile.

Harari a argumentat că, în timp ce tehnologiile avansate pot aduce beneficii considerabile, ele trebuie implementate cu măsuri de protecție adecvate, pentru a preveni abuzurile și pentru a proteja drepturile fundamentale ale oamenilor. El a subliniat necesitatea unui echilibru între utilizarea acestor tehnologii pentru binele public și protejarea democrației și a libertăților individuale​​.

Termenii folosiți de activenews.ro, cum ar fi „muștele într-un insectar” sau „nimeni nu va scăpa”, distorsionează mesajul lui Harari. De asemenea, descrierea lui Harari ca fiind un „satanist psihopat”, „aghiotant homosexual” și „propovăduitor al Marii Resetări”, reflectă o interpretare tendențioasă și nefondată a declarațiilor sale​.

Regulamentul pentru reglementarea inteligenței artificiale

În articol este menționată și rezoluția legislativă a Parlamentului European din 13 martie 2024 referitoare la propunerea unor norme privind inteligența artificială.

Parlamentul European a publicat un regulament pentru inteligența artificială (IA), care introduce, printre altele, măsuri stricte pentru supravegherea biometrică și utilizarea sistemelor de IA.

Scopul acestui regulament este să creeze un context legislativ în care sistemele de inteligență artificială sunt sigure, respectă drepturile fundamentale și nu prezintă riscuri mari. Privit prin perspectiva opiniilor lui Harari, critice față de avansul tehnologic necontrolat, acest regulament reprezintă un pas semnificativ în abordarea implicațiilor etice și sociale ale IA.

Regulamentul conține anumite recomandări de interdicții pentru utilizarea IA. Printre acestea se numără:

• Extragerea fără un scop precis a imaginilor faciale de pe internet sau din înregistrările camerelor de supraveghere pentru crearea bazelor de date de recunoaștere facială.

Introducerea pe piață, punerea în funcțiune în acest scop specific și utilizarea sistemelor de IA care creează sau extind baze de date de recunoaștere facială prin extragerea fără scop precis de imagini faciale de pe internet sau din înregistrări TVCI ar trebui interzise, deoarece această practică amplifică sentimentul de supraveghere în masă și poate duce la încălcări grave ale drepturilor fundamentale, inclusiv ale dreptului la viață privată.

Sursă: Regulamentul privind inteligența artificială

• Recunoașterea emoțiilor la locul de muncă și în școli.

Prin urmare, ar trebui interzise introducerea pe piață, punerea în funcțiune și utilizarea sistemelor de IA destinate a fi utilizate pentru a detecta starea emoțională a persoanelor în situații legate de locul de muncă și de educație. Această interdicție nu ar trebui să se aplice sistemelor de IA introduse pe piață strict din motive medicale sau de siguranță, cum ar fi sistemele destinate utilizării în scop terapeutic. 

Sursă: Regulamentul privind inteligența artificială

• Atribuirea unui punctaj social și utilizarea sistemelor de poliție predictivă bazate pe profilarea persoanelor.

 Sistemele de IA care permit atribuirea unui punctaj social persoanelor fizice de către actori privați sau publici pot genera rezultate discriminatorii și excluderea anumitor grupuri. Acestea pot încălca dreptul la demnitate și nediscriminare, precum și valorile egalității și justiției.

Sursă: Regulamentul privind inteligența artificială

• Manipularea comportamentului uman​.

Tehnicile de manipulare bazate pe IA pot fi utilizate pentru a convinge anumite persoane să manifeste comportamente nedorite sau pentru a le înșela, împingându-le să ia decizii într-un mod care le subminează și le afectează autonomia, capacitatea decizională și libera alegere.

Sursă: Regulamentul privind inteligența artificială

În ceea ce privește utilizarea sistemelor de identificare biometrică în timp real de către autoritățile de aplicare a legii, aceasta este permisă doar în cazuri strict definite, cum ar fi căutarea persoanelor dispărute sau prevenirea atacurilor teroriste, și necesită aprobarea prealabilă de la o autoritate judiciară sau administrativă. Utilizarea retroactivă a acestor sisteme este considerată de mare risc și poate fi autorizată numai în contextul unei infracțiuni penale​​.

Regulamentul impune și obligații clare pentru alte sisteme de IA cu grad ridicat de risc, precum cele utilizate în infrastructura critică, educație, servicii publice și private esențiale, aplicarea legii, migrație și gestionarea frontierelor, justiție și procese democratice. Aceste sisteme trebuie să fie transparente, să evalueze, să reducă riscurile și să fie supuse supravegherii umane​.

Statele membre sau instituțiile, organele, oficiile și agențiile Uniunii nu ar trebui în niciun caz să utilizeze sistemele de IA în domeniul migrației, azilului și gestionării controlului la frontiere ca mijloc de eludare a obligațiilor lor internaționale în temeiul Convenției ONU privind statutul refugiaților adoptată la Geneva la 28 iulie 1951, astfel cum a fost modificată prin Protocolul din 31 ianuarie 1967.

Sursă: Regulamentul privind inteligența artificială

Acesta prevede amenzi mari pentru nerespectarea normelor, de până la 7% din venitul global al companiilor implicate.

Nerespectarea oricăreia dintre interdicțiile privind practicile în domeniul IA menționate la articolul 5 face obiectul unor amenzi administrative de până la 35 000 000 EUR sau, în cazul în care autorul infracțiunii este o întreprindere, de până la 7 % din cifra sa de afaceri anuală mondială totală pentru exercițiul financiar precedent, luându-se în considerare valoarea cea mai mare dintre acestea.

Sursă: Regulamentul privind inteligența artificială

Supravegherea biometrică în România

Materialul citat susține și că Bucureștiul și alte orașe mari din România au introdus camere de supraveghere cu identificare facială biometrică și că tehnologia 5G nu va permite mișcarea fără supraveghere.

Despre actele de identitate electronice și biometrizarea automată, acestea sunt concepute pentru a crește securitatea și a facilita accesul la servicii, dar există îngrijorări privind confidențialitatea datelor și potențialul abuz​. În multe țări, inclusiv în România, aceste aspecte sunt reglementate de legislații stricte privind protecția datelor personale.

Implementat la nivelul Uniunii Europene și aplicabil în toate statele membre, inclusiv România, GDPR (Regulamentul (UE) 2016/679) stabilește un cadru legal pentru protecția datelor personale și libertatea de circulație a acestor date. GDPR impune obligații stricte privind colectarea, prelucrarea și stocarea datelor personale și oferă drepturi extinse persoanelor vizate, inclusiv dreptul la informare, acces, rectificare și ștergere a datelor.

Legea nr. 190/2018 privind măsuri de punere în aplicare a Regulamentului (UE) 2016/679. Această lege specifică măsurile suplimentare necesare pentru aplicarea GDPR în România și detaliază aspectele practice legate de prelucrarea datelor personale în context național.

Legea nr. 506/2004 privind prelucrarea datelor cu caracter personal și protecția vieții private în sectorul comunicațiilor electronice. Aceasta reglementează protecția datelor personale în contextul comunicațiilor electronice și stabilește reguli pentru confidențialitatea comunicațiilor și securitatea datelor.

Aceste acte legislative formează cadrul legal pentru protecția datelor personale în România, asigurând că utilizarea tehnologiilor avansate, inclusiv recunoașterea facială și identificarea biometrică, este reglementată strict pentru a proteja drepturile și libertățile fundamentale ale cetățenilor.

Utilizarea tehnologiei de recunoaștere facială în spațiile publice a devenit un subiect controversat și la nivel internațional. Organizații care militează pentru respectarea drepturilor omului, precum Amnesty International, au subliniat riscurile majore ale acestei tehnologii pentru drepturile civile și au solicitat interzicerea sa pentru supravegherea în masă​. De asemenea, Human Rights Watch a semnalat pericolele utilizării recunoașterii faciale pentru supravegherea protestelor și a altor activități civile, indicând că aceasta poate duce la încălcări ale drepturilor la intimitate, libertatea de exprimare și libertatea de asociere​.

Referitor la tehnologia 5G, aceasta permite transferul rapid de date necesare pentru funcționarea eficientă a sistemelor de recunoaștere facială, deoarece poate gestiona volume mari de date. Totuși, simpla prezență a infrastructurii 5G nu înseamnă automat că fiecare mișcare a cetățenilor va fi monitorizată continuu. Implementarea supravegherii la scară largă depinde de politicile locale și de reglementările naționale privind utilizarea acestor tehnologii.

Conform surselor analizate, deși există elemente de adevăr în afirmația că anumite orașe implementează tehnologia de recunoaștere facială și că infrastructura 5G poate sprijini acest lucru, este exagerat să spunem că nimeni nu va mai avea „vreo șansă de mișcare fără supraveghere”.

Concluzie

Afirmațiile lui Harari, reglementările Uniunii Europene privind IA și cadrul legal din România pentru protecția datelor personale, arată un angajament clar față de protejarea drepturilor fundamentale și prevenirea abuzurilor tehnologice. Deși există preocupări legitime privind utilizarea tehnologiilor de supraveghere, cadrul legal existent oferă garanții semnificative împotriva utilizării abuzive a acestora. Astfel, articolul din Active News prezintă un context distorsionat, cu scopul de a răspândi idei alarmiste în societate.