La data de 12 iulie 2024, a fost publicat în Jurnalul Oficial al Uniunii Europene Regulamentul (UE) 2024/1689 de stabilire a normelor privind inteligența artificială („Legea IA”) (varianta integrală a regulamentului se poate accesa aici).
Legea IA este o reglementare inovatoare care urmărește să stabilească reguli consolidate pentru inteligența artificială în cadrul UE. Scopul Legii IA este de a îmbunătăți funcționarea pieței interne prin instituirea unui cadru juridic coerent pentru dezvoltarea, comercializarea și utilizarea sistemelor de inteligență artificială în UE. Legea IA intenționează să promoveze inteligența artificială centrată pe om, să protejeze împotriva efectelor nocive ale inteligenței artificiale, precum și să sprijine inovația și să faciliteze libera circulație a bunurilor și a serviciilor bazate pe inteligență artificială.
Legea IA se aplică: (i) furnizorilor de sisteme de inteligență artificială, (ii) implementatorilor de sisteme de inteligență artificială cu sediul în UE (definiți ca persoane fizice sau juridice, autorități publice, agenții sau alte organisme care utilizează un sistem de inteligență artificială sub autoritatea lor, cu excepția cazurilor în care sistemul de inteligență artificială este utilizat în cursul unei activități personale fără caracter profesional) și implementatorilor situați într-o țară terță, în cazul în care rezultatul produs de sistemul de inteligență artificială este utilizat în UE, (iii) importatorilor, (iv) distribuitorilor, (v) fabricanților de produse care integrează inteligență artificială, (vi) reprezentanților autorizați ai furnizorilor care nu sunt stabiliți în UE și (vii) persoanelor afectate care se află în UE.
- Practici interzise
Legea IA efinește practicile interzise în materie de inteligență artificială, printre care:
- Tehnicile subliminale și manipulative: Sistemele de IA care utilizează tehnici subliminale sau de manipulare pentru a distorsiona în mod semnificativ comportamentul unei persoane, afectând capacitatea acesteia de a lua decizii în cunoștință de cauză și provocând daune potențiale.
- Exploatarea vulnerabilităților: Sisteme de IA care exploatează vulnerabilitățile legate de vârstă, handicap sau socio-economice pentru a distorsiona comportamentul și a provoca prejudicii.
- Evaluarea socială: Sisteme de inteligență artificială care evaluează sau clasifică persoanele pe baza comportamentului sau a caracteristicilor personale, conducând la un tratament nejustificat sau disproporționat.
- Prezicerea infracțiunilor: Sisteme de inteligență artificială bazate exclusiv pe profilare sau trăsături de personalitate pentru a prezice infracțiuni, cu excepția sistemelor de inteligență artificială care sprijină evaluarea umană.
- Baze de date pentru recunoașterea facială: Sisteme de inteligență artificială care creează sau extind baze de date de recunoaștere facială prin colectarea nespecificată de imagini de pe internet sau din înregistrări CCTV.
- Recunoașterea emoțiilor: Sisteme de inteligență artificială care deduc emoțiile în locurile de muncă sau în instituțiile de învățământ, cu excepția cazurilor justificate pentru motive medicale sau de siguranță.
- Clasificarea pe baza datelor biometrice: Sisteme de IA care clasifică persoanele pe baza datelor biometrice pentru a deduce atribute sensibile precum rasa, opiniile politice sau orientarea sexuală.
- Identificarea biometrică în timp real: Utilizarea sistemelor de identificare biometrică la distanță în timp real în spațiile publice pentru aplicarea legii, cu excepția situațiilor grave, cum ar fi localizarea persoanelor dispărute, prevenirea amenințărilor sau identificarea suspecților unor infracțiuni, dacă există autorizare judiciară.
- Sistemele de IA cu grad ridicat de risc
Sistemele de IA cu grad ridicat de risc sunt acele sisteme care prezintă componente de siguranță, precum și cele implementate în domenii sensibile, cum ar fi identificarea biometrică, gestionarea și exploatarea infrastructurilor critice, educație și formare profesională, ocuparea forței de muncă și aplicarea legii.
Regulamentul IA stabilește cerințe stricte pentru aceste sisteme, inclusiv procese complete de gestionare a riscurilor, practici riguroase de guvernanță a datelor și standarde ridicate de transparență și de documentare. Furnizorii trebuie să se asigure că aceste sisteme sunt testate amănunțit, concepute astfel încât să fie supravegheate eficient de oameni și rezistente la amenințările cibernetice.
- Obligații de transparență pentru furnizorii și implementatorii anumitor sisteme de inteligență artificială
Legea IA prevede obligații de transparență pentru furnizorii și implementatorii de sisteme de inteligență artificială. Furnizorii trebuie să se asigure că sistemele IA care interacționează cu oamenii informează în mod clar utilizatorii că interacționează cu IA, cu excepția cazului în care acest lucru este evident. Furnizorii trebuie, de asemenea, să marcheze conținutul sintetic generat de IA ca fiind artificial.
Implementatorii de sisteme de recunoaștere a emoțiilor sau de sisteme de clasificare biometrică trebuie să informeze persoanele cu privire la funcționarea sistemului și să respecte reglementările privind protecția datelor.
În cazul deepfake-urilor, implementatorii trebuie să dezvăluie natura artificială a conținutului, cu excepția cazului în care sunt exceptați din punct de vedere legal. Informațiile trebuie să fie clare, furnizate la prima interacțiune și conforme cu standardele de accesibilitate. În plus, implementatorii unui sistem de inteligență artificială care generează sau prelucrează un text publicat în scopul informării publicului cu privire la chestiuni de interes public trebuie să dezvăluie faptul că textul a fost generat sau prelucrat în mod artificial, cu excepția cazului în care sunt exceptați din punct de vedere juridic sau în care conținutul generat de inteligența artificială a fost supus unui proces de revizuire umană sau de control editorial.
- Sisteme de IA de uz general
Sistemele de IA de uz general, respectiv un model IA care prezintă o generalitate semnificativă și care este capabil să îndeplinească în mod competent o gamă largă de sarcini diferite, trebuie să îndeplinească cerințele de documentare și de transparență, în special dacă prezintă riscuri sistemice. Sistemele de inteligență artificială de uz general cu impact ridicat fac obiectul unui control suplimentar în ceea ce privește securitatea lor.
- Măsuri de susținere a inovării
Până în august 2026, statele membre trebuie să creeze cel puțin un mediu de testare (sandbox) al IA la nivel național, eventual în colaborare cu alte state membre. Aceste sandbox-uri oferă medii controlate pentru inovarea, dezvoltarea, testarea și validarea sistemelor de inteligență artificială înainte ca acestea să intre pe piață. Sandbox-urile urmăresc să consolideze securitatea juridică și să încurajeze inovarea.
- Guvernare
Comisia va dezvolta experiența și capacitățile UE în domeniul inteligenței artificiale prin intermediul Oficiului pentru inteligență artificială, cu sprijinul statelor membre. În plus, Legea IA instituite Consiliul european pentru inteligență artificială, format din reprezentanți ai fiecărui stat membru și din diverse părți interesate, pentru a asigura aplicarea uniformă a reglementărilor privind inteligența artificială. Consiliul coordonează activitatea autorităților naționale, oferă orientări, împărtășește cele mai bune practici și contribuie la punerea în aplicare a politicilor privind inteligența artificială. În plus, fiecare stat membru trebuie să instituie sau să desemneze cel puțin o autoritate de notificare și o autoritate de supraveghere a pieței pentru a pune în aplicare Legea IA.
- Baza de date a Uniunii Europene pentru sistemele de IA cu grad ridicat de risc
Legea IA prevede, de asemenea, crearea unei baze de date a UE care să conțină informații privind sistemele de inteligență artificială cu risc ridicat. Această bază de date, creată cu ajutorul experților, va include date introduse de furnizori, reprezentanți autorizați și autorități publice. În timp ce majoritatea informațiilor din baza de date vor fi accesibile publicului într-un format ușor de utilizat, unele date vor fi destinate autorităților de supraveghere a pieței și Comisiei, cu excepția cazului în care furnizorul consimte ca acestea să fie accesibile publicului.
- Monitorizarea după introducerea pe piață, schimbul de informații și supravegherea pieței
Furnizorii de sisteme de IA cu grad ridicat de risc trebuie să instituie un sistem de monitorizare după introducerea pe piață proporțional cu natura și cu riscurile tehnologiilor de IA. Acest sistem ar trebui să colecteze, să documenteze și să analizeze în mod sistematic datele relevante pe tot parcursul ciclului de viață al sistemului de IA pentru a asigura conformitatea continuă cu cerințele de reglementare.
Orice persoană fizică sau juridică poate depune o plângere la autoritățile de supraveghere a pieței cu privire la încălcările regulamentului privind inteligența artificială. Persoanele afectate au dreptul la explicații clare cu privire la deciziile luate de sistemele de IA cu grad ridicat de risc, cu excepția cazurilor în care legislația UE sau națională prevede excepții.
- Sancțiuni
Legea IA prevede că statele membre stabilesc normele privind sancțiunile aplicabile în caz de încălcare a dispozițiilor Legii IA și iau toate măsurile necesare pentru a asigura punerea în aplicare a acestora, dar impune și amenzi administrative pentru diverse încălcări ale Legii IA. Amenzile pot fi semnificative, ajungând până la 35.000.000 EUR sau, în cazul unei societăți, până la 7 % din cifra sa de afaceri anuală totală la nivel mondial pentru anul financiar precedent, luându-se în considerare valoarea cea mai mare.
- Intrarea în vigoare și aplicabilitatea
Regulamentul UE privind IA va intra în vigoare la 1 august 2024 și se va aplica de la 2 august 2026. Cu toate acestea:
- Dispozițiile generale și dispozițiile privind practicile interzise ale IA se aplică de la 2 februarie 2025;
- Dispozițiile privind notificarea autorităților în legătură cu sistemele de IA cu grad ridicat de risc, dispozițiile privind sistemele de IA cu scop general, dispozițiile privind guvernanța, dispozițiile privind sancțiunile (cu excepția dispozițiilor referitoare la amenzile pentru furnizorii de sisteme de IA cu scop general) și dispozițiile privind confidențialitatea se aplică de la 2 august 2025;
- Normele de clasificare pentru sistemele IA cu grad ridicat de risc și obligațiile corespunzătoare se vor aplica începând cu 2 august 2027.
