UE reglementează Inteligența Artificială cu prima lege din lume

Uniunea Europeană pune frână la folosirea inteligenței artificiale prin singura lege de acest gen din lume.

Acest articol detaliază noile măsuri adoptate de Uniunea Europeană pentru reglementarea utilizării inteligenței artificiale, subliniind importanța protejării drepturilor cetățenilor și menținerea securității, în timp ce se încurajează inovația în domeniul AI. La Strasbourg, europarlamentarii au votat o serie de restricții pentru a limita manipularea opiniei publice prin difuzarea de imagini false. Aceasta este prima lege din lume care reglementează utilizarea inteligenței artificiale (AI).

Restricții pentru manipularea prin imagini false
Informațiile, textele sau imaginile generate de inteligența artificială trebuie să fie etichetate clar. Autoritățile vor putea folosi sisteme biometrice de recunoaștere facială doar pentru prevenirea terorismului sau căutarea unor persoane dispărute.
Imaginile false generate cu ajutorul AI, cunoscute sub numele de "deep fake", pot manipula opinia publică și au devenit arme în luptele politice. Apariția unui asistent virtual în 2021, antrenat pe o cantitate uriașă de date, a evidențiat atât potențialul, cât și riscurile acestei tehnologii.

Incidente notabile
Recent, la Hong Kong, un angajat al unei companii a fost păcălit să transfere 25 de milioane de dolari în contul unor escroci, la cererea unor avataruri care semănau cu șefii lui, într-o ședință prin videotelefon. Victor Kapra, specialist tech, subliniază că "sistemele AI pot citi în intimitate ce boli avem și ce vârstă biologică avem, iar companiile de asigurare ar putea lua decizii pe baza acestor date intime".

Măsuri pentru prevenirea abuzurilor
Pentru a opri abuzurile, Parlamentul European a adoptat prima lege din lume care reglementează folosirea AI. Sistemele biometrice, cum sunt camerele cu recunoaștere facială din spațiile publice, nu pot fi folosite de autorități decât în cazuri extreme, clar reglementate, cum ar fi căutarea unei persoane dispărute sau prevenirea unui atac terorist.
Forțele de ordine vor avea nevoie de o decizie a instanței pentru a folosi sistemele biometrice după săvârșirea unei infracțiuni. Este interzisă folosirea AI pentru recunoașterea emoțiilor la locul de muncă și în școli. De asemenea, sunt interzise produsele și serviciile care manipulează comportamentul uman sau exploatează vulnerabilitățile oamenilor.

Restricții adiționale
Nu sunt permise scorurile sociale, similar sistemului din China, adică note pentru comportamentul în societate. Sunt restricționate inclusiv jucăriile care folosesc inteligența artificială. Bogdan Manolea de la Asociația pentru Tehnologie și Internet subliniază că în cazul copiilor, capacitatea de discernământ redusă necesită o atenție sporită în prezentarea acestor jucării inteligente.

Implementarea noilor norme
Noile norme vor intra în vigoare până la finalul anului. Un birou pentru gestionarea inteligenței artificiale va fi înființat în cadrul Comisiei Europene. Europarlamentarul Dragoș Tudorache afirmă că "autoritățile au la dispoziție doi ani pentru a-și pregăti oamenii care să aplice această legislație. Va fi important să găsească resursa umană adecvată pentru rolul pe care autoritățile naționale îl vor avea".

Sancțiuni pentru nerespectarea legii
Companiile care nu respectă regulile pot plăti amenzi de până la 7% din cifra de afaceri, cu un plafon de 35 de milioane de euro pentru cele mai grave infracțiuni.

Detalii suplimentare despre lege:
Legea aprobată de Parlamentul European (PE) are ca scop respectarea drepturilor omului și menținerea securității în domeniul Inteligenței Artificiale (AI). UE este prima entitate ce adoptă un astfel de act normativ, care potrivit inițiatorilor, lasă loc inovației în această industrie.

Legea interzice anumite aplicații AI care amenință drepturile cetățenilor, inclusiv sistemele biometrice de clasificare sau extragerea imaginilor de pe internet sau a înregistrărilor CCTV, cu scopul de a crea baze de date de recunoaștere facială.

Noile prevederi interzic folosirea aplicațiilor de AI pentru recunoașterea emoțiilor la locul de muncă și în școli, evaluarea socială, anumite activități polițienești, dar și aplicațiile care manipulează comportamentul uman sau exploatează vulnerabilitățile oamenilor.

Restricții pentru identificarea biometrică
Utilizarea sistemelor de identificare biometrică de către autoritățile de aplicare a legii este interzisă în principiu, cu excepția situațiilor specificate clar în lege și strict definite. Identificarea biometrică a persoanelor „în timp real” poate fi aplicată numai dacă sunt îndeplinite garanții stricte, de exemplu, utilizarea sa este limitată în timp și poate viza doar un anume spațiu geografic. În plus, are nevoie de o autorizare judiciară sau administrativă.

Utilizările permise includ, de exemplu, eforturile de căutare a unor persoane dispărute sau prevenirea unui atac terorist. Utilizarea identificării biometrice după producerea unor evenimente are, de asemenea, nevoie de autorizare judiciară.

Obligații pentru sistemele de AI cu grad gidicat de risc
În lege sunt prevăzute obligații clare pentru alte sisteme de AI care au un grad ridicat de risc la adresa sănătății, securității, drepturilor fundamentale, mediului, democrației și statului de drept. Printre exemplele de utilizări ale AI cu grad ridicat de risc menționate de lege sunt cele din domenii ca infrastructura, educația, angajarea forței de muncă, serviciile publice și private esențiale, migrația și gestionarea frontierelor, justiția și procesele democratice, de exemplu, influențarea alegerilor.

Drepturile cetățenilor
Cetățenii vor avea dreptul să depună plângeri cu privire la sistemele de AI și să primească explicații pentru deciziile bazate pe sisteme de AI cu grad ridicat de risc care le-ar putea afecta drepturile.

„Astăzi este din nou o zi istorică pe drumul nostru lung către reglementarea AI”, a declarat Brando Benifei, europarlamentarul italian care a promovat textul în PE împreună cu europarlamentarul român, Dragoș Tudorache. „Aceasta este prima reglementare din lume care pune o cale clară către o dezvoltare sigură și centrată pe om a Inteligenței Artificiale”, a spus el.

• Interdicțiile privind practicile interzise se vor aplica la șase luni de la data intrării în vigoare.
• Codurile de practică se vor aplica la nouă luni de la intrarea în vigoare.
• Normele AI de uz general, inclusiv guvernanța, se vor aplica la 12 luni de la intrarea în vigoare.
• Obligațiile pentru sistemele cu grad ridicat de risc se vor aplica la 36 de luni.

Reacții din sectorul tehnologic
Actorii din sectorul tehnologic au primit legea cu precauție. "Multe dintre aceste noi reguli rămân neclare și ar putea încetini dezvoltarea și implementarea aplicațiilor inovatoare", a declarat Boniface de Champris, șeful Europei la CCIA (Computer and Communications Industry Association) de la Bruxelles, un reprezentant al lobby-ului industriei.

La rândul lor, organizații care supraveghează activitățile de lobby transmit că multe detalii ale Legii AI rămân deschise și trebuie clarificate, de exemplu, în ceea ce privește standardele sau obligațiile de transparență. Aceleași organizații au spus că firmele precum start-up-ul francez Mistral AI și Aleph Alpha din Germania, sau giganții tehnologici Google și Microsoft, au avut o influență puternică în timpul negocierilor privind prevederile legii.

Lobby-ul a fost recunoscut și de inițiatorul Dragoș Tudorache, care a subliniat că legea este una echilibrată și apără interesele cetățenilor europeni, lăsând loc și pentru dezvoltarea sectorului.

Legea adoptată în Parlamentul European vine pe fondul temerilor globale tot mai mari că dezvoltarea foarte rapidă a sectorului Inteligenței Artificiale aduce riscuri semnificative pentru drepturile omului și sistemele democratice. În acest context, Uniunea Europeană își propune să stabilească un echilibru între protecția cetățenilor și promovarea inovației, fiind un exemplu global în reglementarea unei tehnologii emergente și complexe.