Ce verificăm?

Ce presupune propunerea Comisiei Europene de care vorbește Cristian Terheș.

Verificare

Ce este sistemul de credit social din China?

Din 2014, Partidul Comunist din China a început să testeze un sistem de acordare a unor note pentru a monitoriza comportamentul populației. Notele acordate cetățenilor și companiilor sunt gândite și acordate de membri ai unor instituții publice chineze. 

Până acum, sistemul a funcționat local și sub formă de experimente, neexistând un sistem centralizat, aplicat la întreaga populație.

Planul este, însă, ca sistemul să fie obligatoriu pentru toți cetățenii chinezi. Nota poate să crească sau poate să scadă în funcție de acțiunile unui cetățean, însă metodologia nu este publică. Printre faptele care ar putea să scadă nota unei persoane fizice s-ar număra condusul imprudent, fumatul în zone în care fumatul este interzis, achiziția de prea multe jocuri video etc. Pentru companii, nota poate scădea dacă acestea dezinformează (în accepțiunea statului), nu își plătesc taxele sau dacă strâng fonduri ilegal.

Cea mai comună pedeapsă a fost, până acum, restricția de zbor.

Ce s-a votat la nivelul UE?

Conform calendarului ședințelor plenare ale Parlamentului European, cea la care face referire Cristian Terheș este, probabil, cea din săptămâna 12-15 iunie, desfășurată la Strasbourg.

În cadrul plenului de la Strasbourg a fost discutată propunerea de regulament denumită „Legea privind Inteligența Artificială” sau „Artificial Intelligence Act” și înaintată de Comisia Europeană încă din aprilie 2021. Obiectivele specifice ale regulamentului sunt următoarele (pagina 3):

„asigurarea faptului că sistemele de IA introduse pe piața Uniunii și utilizate sunt sigure și respectă legislația existentă privind drepturile fundamentale și valorile Uniunii;

• asigurarea securității juridice pentru a facilita investițiile și inovarea în domeniul IA;
• consolidarea guvernanței și asigurarea efectivă a respectării legislației existente privind drepturile fundamentale și a cerințelor de siguranță aplicabile sistemelor de IA;
• facilitarea dezvoltării unei piețe unice pentru sisteme de IA legale, sigure și de încredere și prevenirea fragmentării pieței.”

La paginile 23-24 se menționează:

„Sistemele de IA care oferă o evaluare a comportamentului social al persoanelor fizice în scopuri generale de către autoritățile publice sau în numele acestora pot genera rezultate discriminatorii și excluderea anumitor grupuri. Acestea pot încălca dreptul la demnitate și nediscriminare, precum și valorile egalității și justiției. Astfel de sisteme de IA evaluează sau clasifică credibilitatea persoanelor fizice pe baza comportamentului lor social în contexte multiple sau a unor caracteristici personale sau de personalitate cunoscute sau preconizate. Punctajul privind comportamentul social obținut din astfel de sisteme de IA poate duce la un tratament negativ sau nefavorabil al persoanelor fizice sau al unor grupuri întregi de astfel de persoane în contexte sociale care nu au legătură cu contextul în care datele au fost inițial generate sau colectate sau la un tratament defavorabil care este disproporționat sau nejustificat în raport cu gravitatea comportamentului lor social. Prin urmare, astfel de sisteme de IA ar trebui interzise.”

„Utilizarea sistemelor de IA pentru identificarea biometrică „în timp real” a persoanelor fizice în spațiile accesibile publicului în scopul asigurării respectării legii este considerată deosebit de intruzivă pentru drepturile și libertățile persoanelor în cauză, în măsura în care poate afecta viața privată a unei părți mari a populației, evocă un sentiment de supraveghere constantă și descurajează indirect exercitarea libertății de întrunire și a altor drepturi fundamentale. (…)

Prin urmare, utilizarea acestor sisteme în scopul asigurării respectării legii ar trebui interzisă, cu excepția a trei situații enumerate în mod exhaustiv și definite în mod strict, în care utilizarea este strict necesară pentru un interes public substanțial, importanța acestei utilizări fiind mai mare decât riscurile. Aceste situații implică căutarea potențialelor victime ale criminalității, inclusiv a copiilor dispăruți, anumite amenințări la adresa vieții sau a siguranței fizice a persoanelor fizice sau privind un atac terorist și detectarea, localizarea, identificarea sau urmărirea penală a autorilor unor infracțiuni sau a persoanelor suspectate menționate în Decizia cadru 2002/584/JAI a Consiliului38”.

La Titlul 2, Articolul 5 (paginile 47-48), specificațiile împotriva supravegherii comportamentului social sunt la fel de clare:

„Sunt interzise următoarele practici în domeniul inteligenței artificiale:

(…)

(c) introducerea pe piață, punerea în funcțiune sau utilizarea sistemelor de IA de către autoritățile publice sau în numele acestora pentru evaluarea sau clasificarea credibilității persoanelor fizice într-o anumită perioadă de timp, pe baza comportamentului lor social sau a caracteristicilor personale sau de personalitate cunoscute sau preconizate”.

În forma adoptată de Parlament (înainte de negocierile din cadrul Consiliului UE), pe lângă propunerea Comisiei Europene de interzicere a sistemelor de IA care evaluează comportamentul social (en. „social scoring”), eurodeputații au cerut interzicerea altor utilizări „intruzive și discriminatorii” ale sistemelor de IA, precum:

• sistemele de identificare biometrică în timp real în spații publice (amendamentul 41)
• sistemele de recunoaștere a emoțiilor și folosirea acestor mai ales în apărare, în managementul frontierelor, la locul de muncă sau în cadrul instituțiilor educaționale (amendamentul 52)
• sistemele biometrice de clasificare care folosesc caracteristici sensibile (precum genul, rasa, etnia, cetățenia, religia, orientarea politică) (amendamentul 39)

Concluzie

Declarația lui Cristian Terheș este falsă. Regulamentul UE interzice tocmai sistemele de IA care ar putea încuraja crearea unui sistem de credit social precum cel din China.

*Foto copertă: Facebook / Cristian Terheș