Recunoașterea emoțiilor și regulamentul AI Act: noile restricții și implicații!
Comisia Europeană publică Ghidurile privind practicile interzise de Inteligență Artificială (AI) conform Actului AI: Pe 4 februarie 2025, Comisia Europeană a publicat ghidurile privind practicile interzise de AI, conform Actului AI. Aceste ghiduri oferă o viziune clară asupra practicilor considerate inacceptabile din cauza riscurilor pentru valorile europene și drepturile fundamentale, concentrându-se pe manipularea dăunătoare, scorarea socială și identificarea biometrică la distanță în timp real.
Actul AI clasifică sistemele de AI în diferite categorii de risc, inclusiv riscuri interzise, riscuri ridicate și cele supuse obligațiilor de transparență. Ghidurile au scopul de a asigura o aplicare uniformă a Actului AI în întreaga Uniune Europeană, oferind explicații legale și exemple practice, însă interpretările finale sunt rezervate Curții de Justiție a Uniunii Europene (CJUE). În același timp, aceste ghiduri subliniază angajamentul Uniunii Europene de a promova un peisaj sigur și etic al AI, sprijinind inovația, dar garantând protecția sănătății, siguranței și drepturilor fundamentale.
Un aspect controversat al Actului AI îl reprezintă restricțiile impuse asupra tehnologiilor de recunoaștere a emoțiilor, care au fost interzise în instituțiile educaționale și la locul de muncă, cu excepția scopurilor medicale sau de siguranță. Această decizie a fost adoptată fără o consultare adecvată cu specialiștii din domeniu, ceea ce a generat critici din partea comunității academice și a industriei. În răspuns la aceste preocupări, Oficiul pentru Inteligență Artificială a elaborat ghiduri pentru a clarifica interdicțiile, document publicat pe 4 februarie 2025, la doar două zile după intrarea în vigoare a restricțiilor.
Principalele interdicții privind recunoașterea emoțiilor
1. Domenii interzise, sistemele AI care recunosc emoțiile sunt interzise în:
• Locurile de muncă – angajatorii nu pot folosi astfel de sisteme pentru a analiza starea emoțională a angajaților, cu excepția unor motive de siguranță.
• Instituțiile educaționale – școlile și universitățile nu pot implementa astfel de tehnologii pentru a monitoriza atenția sau interesul elevilor/studenților.
2. Ce este permis? Există câteva excepții notabile:
• Domeniul medical – recunoașterea emoțiilor este permisă dacă este utilizată în scopuri terapeutice sau pentru asistența persoanelor cu dizabilități, cum ar fi ajutarea pacienților cu autism sau a persoanelor cu deficiențe de vedere sau auz.
• Siguranța publică – sistemele care detectează emoțiile pot fi utilizate în situații care implică protejarea vieții sau sănătății, cum ar fi monitorizarea stresului șoferilor pentru prevenirea accidentelor.
3. Ce se consideră recunoaștere a emoțiilor? Ghidul clarifică faptul că interdicția include nu doar detectarea directă a emoțiilor, ci și inferențele bazate pe gesturi, tonul vocii sau expresiile faciale. Cu toate acestea, simplele observații ale unor expresii vizibile (de exemplu, un zâmbet sau o încruntare) fără utilizarea AI nu sunt considerate recunoaștere a emoțiilor.
4. Implicații pentru cercetare și industrie. AI Act permite utilizarea tehnologiilor de recunoaștere a emoțiilor în scopuri de cercetare, atâta timp cât acestea nu sunt implementate într-un mediu real de lucru sau educațional. În plus, sistemele de AI care analizează text scris pentru a detecta sentimente (de exemplu, analiza sentimentelor în recenzii online) nu intră sub incidența interdicțiilor.
5. Sancțiuni pentru nerespectare. Începând cu 2 august 2025, vor fi aplicate penalități pentru nerespectarea restricțiilor impuse de AI Act. De asemenea, furnizorii de AI trebuie să includă în termenii și condițiile produselor lor interdicția utilizării acestor tehnologii în contexte ilegale.
Noile reglementări europene ridică provocări semnificative pentru dezvoltatorii și utilizatorii de tehnologii AI în domeniul recunoașterii emoțiilor. Deși există excepții pentru scopuri medicale și de siguranță, interdicțiile stricte din locurile de muncă și din instituțiile educaționale vor avea un impact major asupra aplicațiilor comerciale și cercetării. Rămâne de văzut cum vor influența aceste restricții competitivitatea UE în raport cu alte regiuni, precum SUA și China, care continuă să avanseze rapid în domeniul AI.
Sursa:
https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act
Share:
Comments