Inteligența artificială intră într-o etapă decisivă în Uniunea Europeană. De duminică, 2 august, cea mai mare parte a obligațiilor prevăzute de Regulamentul european privind inteligența artificială (AI Act) devine aplicabilă. Adoptat în 2024, actul normativ – considerat prima lege din lume care reglementează utilizarea sistemelor de inteligență artificială – va fi implementat etapizat până în 2028.
Regulamentul stabilește un cadru comun pentru utilizarea sigură, transparentă și în conformitate cu drepturile fundamentale a sistemelor de inteligență artificială în Uniunea Europeană. Totodată, introduce obligații privind supravegherea tehnică și etică a acestor sisteme și un regim de sancțiuni care poate ajunge la 35 de milioane de euro pentru cele mai grave încălcări, precum utilizarea sistemelor de IA interzise. Pentru încălcările grave privind sistemele clasificate drept „de înalt risc”, amenzile pot ajunge la 15 milioane de euro.
Comisia Europeană leagă AI Act de incidentele recente cu OpenAI și Anthropic
Aceasta este probabil cea mai importantă noutate din ultimele zile. După incidentele în care modele AI dezvoltate de OpenAI și Anthropic au manifestat comportamente neașteptate în timpul unor teste de securitate, oficialii Comisiei Europene au declarat că aceste cazuri demonstrează de ce este necesară aplicarea AI Act. Potrivit Comisiei, dezvoltatorii celor mai avansate modele trebuie să monitorizeze permanent riscurile și să raporteze incidentele semnificative. Noile obligații intră în vigoare într-un context în care Comisia Europeană discută cu dezvoltatorii OpenAI și Anthropic după incidente recente în care agenți AI au manifestat comportamente neașteptate în teste de securitate. Oficialii europeni au afirmat că aceste cazuri confirmă necesitatea unor reguli stricte de monitorizare și raportare a riscurilor prevăzute de AI Act. Oficiul european pentru IA își extinde atribuțiile.
De pe 2 august, AI Office nu mai are doar un rol de coordonare.
El poate:
- supraveghea modelele AI de uz general;
- solicita informații companiilor;
- investiga eventuale încălcări;coordona aplicarea regulamentului împreună cu autoritățile naționale.
- În plus, Comisia și-a consolidat echipa de aplicare a AI Act și dezvoltă mecanisme prin care pot fi raportate confidențial încălcările regulamentului.
Codul de bune practici pentru modelele AI de uz general
Este un subiect foarte actual. Comisia Europeană a publicat Codul de bune practici pentru modelele AI de uz general (General-Purpose AI Code of Practice). Acesta nu este obligatoriu, dar oferă companiilor o modalitate de a demonstra că respectă obligațiile privind:
* transparența;
* drepturile de autor;
* gestionarea riscurilor;
* securitatea celor mai puternice modele AI.
Merită menționat deoarece OpenAI, Microsoft, Google, Anthropic, Mistral și alte companii au aderat la acest cod.
Accentul se mută pe transparență
Un mesaj transmis constant de Comisie este că AI Act nu urmărește interzicerea inteligenței artificiale, ci creșterea transparenței.
Din acest motiv:
* utilizatorii trebuie informați când discută cu un chatbot;
* conținutul generat artificial trebuie identificat;
* deepfake-urile trebuie marcate corespunzător.
Sistemele de inteligență artificială interzise în UE
Uniunea Europeană a interzis deja sistemele de inteligență artificială considerate a prezenta riscuri inacceptabile. Printre acestea se numără sistemele care utilizează tehnici subliminale, manipulatoare sau înșelătoare, cele care exploatează vulnerabilitatea persoanelor – precum minorii, vârstnicii sau persoanele cu dizabilități –, sistemele care folosesc clasificarea biometrică pentru a deduce rasa, religia sau orientarea sexuală, precum și cele care utilizează „scorul social” pentru evaluarea comportamentului.
De asemenea, sunt interzise sistemele care deduc emoțiile la locul de muncă sau în mediul educațional, colectarea imaginilor de pe internet pentru crearea unor baze de date faciale și identificarea biometrică de la distanță, în timp real, în spații publice, în scopul utilizării de către forțele de ordine.
Din luna decembrie, lista utilizărilor interzise va fi extinsă și va include unele dintre cele mai grave aplicații ale inteligenței artificiale generative, precum crearea sau manipularea fără consimțământ a conținutului intim („deepfake-uri sexuale”) și orice sistem capabil să genereze materiale de pornografie infantilă.
Ce se schimbă din 2 august 2026
Data de 2 august reprezintă principalul moment de implementare al AI Act, când intră în vigoare cea mai mare parte a obligațiilor prevăzute de regulament.
Începând cu această dată devin aplicabile regulile generale privind utilizarea sistemelor de inteligență artificială, obligațiile de transparență și responsabilitățile furnizorilor și utilizatorilor de sisteme IA.
Tot de pe 2 august, regulamentul se aplică și operatorilor sistemelor de inteligență artificială de înalt risc introduse pe piață sau puse în funcțiune înainte de această dată, în cazul în care aceste sisteme sunt supuse unor modificări semnificative ale proiectării.
În același timp, statele membre trebuie să se asigure că au înființat și operaționalizat cel puțin un sandbox de reglementare pentru inteligența artificială la nivel național, destinat testării și dezvoltării controlate a noilor sisteme IA.
Obligația de a informa utilizatorii că interacționează cu un sistem de inteligență artificială intră, de asemenea, în vigoare la 2 august.
În schimb, etichetarea obligatorie a conținutului generat de inteligența artificială printr-un marcaj dedicat a fost amânată până la 2 decembrie pentru sistemele capabile să genereze imagini, videoclipuri sau înregistrări audio sintetice care imită persoane sau elemente reale.
Totodată, Comisia Europeană a aprobat pachetul Omnibus Digital, care urmărește simplificarea legislației digitale și o implementare mai graduală și coordonată a noilor reguli.
- 2 august 2026: Restul prevederilor Actului privind Inteligența Artificială (AI Act) încep să se aplice, cu excepția articolului 6 alineatul (1).
- 2 august 2026: Prezentul regulament se aplică operatorilor sistemelor de IA cu risc ridicat (altele decât sistemele menționate la articolul 111 alineatul (1)) care au fost introduse pe piață sau puse în funcțiune înainte de această dată. Totuși, acest lucru se aplică numai sistemelor care fac obiectul unor modificări semnificative ale proiectării lor începând cu această dată.
- 2 august 2026: State membre: Statele membre trebuie să se asigure că autoritățile lor competente au înființat cel puțin un sandbox de reglementare pentru IA la nivel național. Acesta trebuie să fie operațional până la această dată.
Ce obligații intră în vigoare în 2027
Procesul de implementare continuă și în 2027. Începând cu 2 august 2027, devin aplicabile prevederile articolului 6 alineatul (1) din AI Act și obligațiile aferente sistemelor de inteligență artificială de înalt risc. Tot până la această dată, furnizorii modelelor de inteligență artificială de uz general (GPAI) introduse pe piață înainte de 2 august 2025 trebuie să fi adoptat toate măsurile necesare pentru respectarea obligațiilor prevăzute de regulament.
De asemenea, sistemele de inteligență artificială care fac parte din marile sisteme informatice ale Uniunii Europene și care au fost introduse pe piață sau puse în funcțiune înainte de 2 august 2027 trebuie aduse în conformitate cu AI Act până la 31 decembrie 2030.
2 august 2027: Articolul 6 alineatul (1) și obligațiile corespunzătoare prevăzute în Regulament încep să se aplice.
2 august 2027: Furnizorii modelelor de IA de uz general (GPAI) introduse pe piață înainte de 2 august 2025 trebuie să fi luat toate măsurile necesare pentru a respecta obligațiile prevăzute de prezentul Regulament până la această dată.
2 august 2027: Sistemele de IA care sunt componente ale sistemelor IT de mari dimensiuni enumerate în Anexa X și care au fost introduse pe piață sau puse în funcțiune înainte de această dată trebuie aduse în conformitate cu prezentul Regulament până la 31 decembrie 2030.
Ultima etapă majoră: obligațiile din 2028
Implementarea AI Act se încheie, în linii mari, în august 2028. De la această dată devin aplicabile obligațiile privind sistemele de inteligență artificială de înalt risc integrate în produse și servicii deja reglementate de legislația europeană, precum dispozitive medicale, sisteme de asistență pentru șoferi, jucării inteligente sau sisteme utilizate în navigația aeriană.
Tot în 2028, Comisia Europeană va începe evaluarea periodică a modului în care funcționează regulamentul. Executivul european va analiza activitatea Oficiului pentru IA (AI Office), eficiența codurilor voluntare de conduită și necesitatea modificării unor prevederi ale regulamentului, inclusiv lista sistemelor de IA de înalt risc și obligațiile suplimentare de transparență. În plus, Comisia va prezenta Parlamentului European și Consiliului rapoarte privind standardele necesare pentru dezvoltarea eficientă din punct de vedere energetic a modelelor de inteligență artificială de uz general.
2 august 2028: Comisia va evalua funcționarea Oficiului pentru IA (AI Office).
2 august 2028 (și ulterior la fiecare trei ani): Comisia va evalua impactul și eficacitatea codurilor de conduită voluntare.
2 august 2028 (și ulterior la fiecare patru ani): Comisia va evalua și va prezenta Parlamentului European și Consiliului un raport privind necesitatea modificării următoarelor aspecte: domeniile de aplicare prevăzute în Anexa III; lista sistemelor de IA care necesită măsuri suplimentare de transparență, prevăzută la articolul 50; sistemul de supraveghere și guvernanță.
2 august 2028 (și ulterior la fiecare patru ani): Comisia va prezenta Parlamentului European și Consiliului un raport de progres privind livrabilele în materie de standardizare referitoare la dezvoltarea eficientă din punct de vedere energetic a modelelor de IA de uz general. Raportul trebuie transmis Parlamentului European și Consiliului și făcut public.
Ce spun experții
Specialiști în drept și transformare digitală au analizat impactul AI Act și calendarul său de implementare. Giovanni Alessandrello, director general al companiei BIP Iberia, avertizează că cel mai mare risc este ca firmele să interpreteze amânările „ca o invitație la așteptare”. Acesta apreciază regulamentul drept „un semn de maturitate”, deoarece orice sistem de inteligență artificială trebuie să poată fi „explicat, guvernat și auditat” și respinge ideea că Europa ar fi ales reglementarea în detrimentul inovării. „Întrebarea nu este dacă ar trebui să reglementăm IA; provocarea este cum să o gestionăm fără a înăbuși inovația, deoarece fără control poate genera riscuri sistemice, dar o reglementare excesiv de rigidă poate împiedica Europa să concureze. Provocarea este să găsim echilibrul”, a declarat Alessandrello.
La rândul său, Guillermo Hidalgo, avocat specializat în tehnologie și drepturi digitale la Maio Legal, consideră că AI Act introduce reguli clare și diferențiate în funcție de nivelul de risc al fiecărui sistem și poate deveni „o ștampilă de calitate pentru IA europeană”. În același timp, acesta avertizează că evoluția tehnologiei este mai rapidă decât procesul de reglementare și că pot apărea sisteme cu impact major asupra oamenilor care nu se încadrează în actualele categorii de risc. De asemenea, suprapunerea AI Act cu alte reglementări europene, precum cele privind protecția datelor, ar putea crea dificultăți de aplicare pentru multe companii.
Critici din partea industriei
În ultimele zile mai multe organizații europene și companii au susținut că:
* ghidurile Comisiei au fost publicate prea târziu;
* unele obligații sunt formulate prea vag;
* există riscul unor interpretări diferite între statele membre;
* firmele mici vor suporta costuri importante de conformare.
Fii alături de noi pe Facebook