Sandbox AI în România. Cine răspunde când algoritmul greșește?

Autor: Camelia Ionescu Ultima actualizare: 19 noiembrie 2026 Categorii: AI Timp de citire: 10 minute

            Ce schimbă Regulamentul (UE) 2026/2487 pentru firmele care dezvoltă sisteme de inteligență artificială și pentru cei care le cumpără produsele

Să presupunem că sunteți pe punctul de a plăti avansul pentru un teren. O aplicație de inteligență artificială vă spune că puteți construi o casă cu etaj. A citit corect regulamentul local de urbanism. I-a lipsit însă planșa pe care se vede că o parte din teren este rezervată pentru lărgirea străzii, exact acolo unde ar urma să fie casa. Ați mai semna promisiunea de vânzare în aceleași condiții?

Pentru firma care dezvoltă aplicația, acesta este un test mai valoros decât o demonstrație în care totul merge bine. Cum își dă seama sistemul că îi lipsește o planșă? Ce mesaj vede cumpărătorul până când un specialist verifică documentația? Și ce va putea dovedi furnizorul dacă, după lansare, cineva se bazează pe un răspuns greșit?

La 1 decembrie 2026 intră în vigoare Regulamentul de punere în aplicare (UE) 2026/2487 al Comisiei, adoptat la 10 noiembrie și publicat la 11 noiembrie. Regulamentul european privind inteligența artificială (AI Act) permite deja testarea unor sisteme inovatoare, pe durată limitată, sub supravegherea autorităților. Noul act stabilește cum se candidează la un asemenea spațiu de testare în materie de reglementare (sandbox AI), ce se consemnează în planul de testare și ce pot dovedi rezultatele.

      Unde poate depune cererea o firmă din România?

Până la 2 august 2027, România trebuie să asigure cel puțin un spațiu de testare operațional la nivel național. Îl poate organiza împreună cu alte state membre sau poate participa la unul existent, dacă participarea asigură o acoperire națională echivalentă. Termenul rezultă din art. 57 alin. (1) din AI Act, în forma modificată prin Regulamentul (UE) 2026/1744.

Prin memorandumul aprobat de Guvern la 12 martie 2026, ANCOM a fost propusă ca autoritate de supraveghere a pieței și punct național unic de contact. La 19 noiembrie 2026, Comisia Europeană indica încă pentru România că decizia națională de desemnare era în așteptarea adoptării definitive. Programul de guvernare 2026–2028 prevede, la măsura M9, crearea unui mediu controlat pentru testarea unor servicii bazate pe identitate digitală, IA și schimb securizat de date. La data publicării, în sursele oficiale consultate nu am identificat un apel național deschis pentru înscrierea firmelor în sandboxul prevăzut de AI Act.

O firmă românească poate urmări și apelurile din alte state membre, potrivit art. 3 alin. (2) din noul regulament. Lituania oferă deja consultații generale inclusiv companiilor străine. Agenția sa pentru Inovare anunță lansarea programului formal în 2027. Până atunci, o firmă poate discuta încadrarea produsului său, iar pentru admitere va parcurge selecția programului.

      Ce proiect poate fi admis și cât costă participarea?

Cererea o depune furnizorul sau potențialul furnizor, folosind formularul pus la dispoziție de autoritatea care organizează spațiul de testare. Clientul care va utiliza sistemul poate participa ca partener. În exemplul nostru, firma de software ar putea candida împreună cu o primărie interesată să testeze aplicația pe documentații urbanistice. Dezvoltatorul poate reconstitui ce documente a consultat aplicația. Urbanistul poate identifica planșa care schimbă concluzia.

Art. 3 alin. (2) din Regulamentul (UE) 2026/2487 permite depunerea cererii pentru un sistem aflat într-una dintre următoarele situații:

  • Sistemul nu a fost încă introdus pe piață sau pus în funcțiune.
  • Sistemul a fost deja introdus pe piață sau pus în funcțiune și urmează să facă obiectul unei modificări substanțiale în sensul art. 3 pct. 23 din AI Act.
  • Sistemul inițial nu era clasificat cu grad ridicat de risc, dar modificarea scopului său preconizat îl transformă într-un sistem cu grad ridicat de risc, în condițiile art. 25 alin. (1) lit. (c) din AI Act.

La selecție contează dificultatea juridică ori practică identificată, utilitatea rezultatelor pentru alte proiecte din sector, beneficiul public, maturitatea proiectului și caracterul său inovator. Autoritatea comunică rezultatul în cel mult trei luni de la depunerea cererii complete sau de la termenul-limită de depunere, după caz. Solicitantul poate contesta decizia potrivit procedurii naționale aplicabile.

Pentru IMM-uri, inclusiv pentru start-upurile care se încadrează în această categorie, accesul este prioritar, iar serviciile de orientare, consiliere și supraveghere prevăzute la art. 2 alin. (3) sunt gratuite. Autoritatea poate recupera costuri excepționale pentru alte servicii convenite cu participantul. Trebuie să informeze firma cât mai devreme și, în orice caz, înainte de începerea participării. Pentru o întreprindere din UE care depășește pragurile de încadrare ca IMM, autoritatea poate stabili o taxă egală cu costul integral al serviciilor. Lista taxelor se publică la deschiderea apelului. Într-un proiect cu o primărie, aș stabili de la început cine plătește digitizarea planșelor și verificarea rezultatelor de către experți.

     Ce anume ar trebui testat în cazul aplicației de urbanism?

După selecție, furnizorul și autoritatea convin un plan. Acesta identifică sistemul, calendarul, cerințele juridice examinate și responsabilitățile participanților. Aici aș introduce o regulă simplă. Dacă aplicația nu poate verifica planșa aplicabilă parcelei, oprește emiterea concluziei, identifică documentul lipsă și trimite cazul la verificare umană.

În România, chiar și certificatul de urbanism emis de autoritatea competentă are valoarea unui act de informare. Art. 6 alin. (1) și (5) din Legea nr. 50/1991 îi stabilește funcția și precizează că acesta nu conferă dreptul de a executa lucrări de construcții. O aplicație care afișează „puteți construi” ar trebui să facă vizibile documentele pe care și-a întemeiat concluzia și limitele verificării sale.

      Poate primăria pune la dispoziție dosare reale?

Un dosar urbanistic poate conține nume, adrese și semnături. Dacă vrem să verificăm suprapunerea a două planșe, la ce ne folosește numele proprietarului? Iar dacă îl eliminăm, mai putem identifica proprietarul folosind adresa, numărul cadastral sau alte informații rezonabil accesibile? Dacă persoana poate fi identificată în mod rezonabil, fișierul conține în continuare date cu caracter personal în sensul Regulamentului general privind protecția datelor (RGPD).

Art. 59 alin. (1) din AI Act permite, în condiții cumulative, reutilizarea în sandbox a unor date personale colectate legal în alt scop. Între condiții se află urmărirea unui interes public major într-unul dintre domeniile enumerate și necesitatea datelor pentru respectarea uneia sau mai multor cerințe din capitolul III secțiunea 2, atunci când datele anonimizate, sintetice sau alte date fără caracter personal nu permit atingerea efectivă a acelui scop. Simplul fapt că primăria este partener nu autorizează accesul firmei la arhivă.

Accesul trebuie limitat la persoanele autorizate, într-un mediu izolat și protejat. Legea cere monitorizarea riscurilor și stabilește reguli pentru ștergerea datelor. În acest regim, rezultatele prelucrării nu pot determina luarea unor măsuri sau decizii care afectează persoanele vizate. Pentru proiectul nostru, asta înseamnă că testarea unui dosar din arhivă trebuie organizată astfel încât experimentul să nu influențeze soluționarea unei cereri a proprietarului.

      Dacă autoritatea supraveghează testul, cine răspunde pentru prejudiciu?

Furnizorul sau potențialul furnizor rămâne răspunzător, potrivit dreptului aplicabil, pentru prejudiciul cauzat unui terț prin experiment. Art. 57 alin. (12) din AI Act reglementează distinct amenzile administrative. Autoritățile nu aplică amenzi administrative pentru încălcări ale AI Act dacă potențialul furnizor respectă planul și condițiile participării și urmează cu bună-credință îndrumările autorității naționale competente. Pentru alte norme, această protecție presupune și participarea activă la supraveghere a autorității competente pentru acele norme, precum și îndrumări de conformare din partea ei.

Dar dacă eroarea apare după lansare, iar cumpărătorul a plătit deja avansul? Aș începe cu trei întrebări. Cine i-a furnizat analiza? Ce verificări și-a asumat? Ce a văzut cumpărătorul pe ecran înainte să semneze? Dacă prestatorul și-a asumat prin contract verificarea documentației complete, contează dacă și-a executat acea obligație (art. 1.350 Cod civil). Dacă persoana prejudiciată este terț față de acel contract, poate intra în discuție răspunderea delictuală pentru fapta proprie, în condițiile art. 1.357 Cod civil. Pentru repararea pierderii invocate trebuie stabilite prejudiciul concret și legătura de cauzalitate, potrivit regulilor aplicabile. Plata avansului, singură, nu dovedește că suma a fost pierdută. Aș verifica mai întâi clauzele promisiunii și dacă avansul poate fi recuperat de la vânzător.

Dacă persoana fizică a cumpărat pentru uz personal acces la aplicație, pot deveni incidente și remediile pentru neconformitatea serviciului digital prevăzute de OUG nr. 141/2021. O eventuală reducere a prețului plătit pentru aplicație și despăgubirile cerute pentru pierderea suferită în tranzacția imobiliară au obiecte diferite.

     Ce poate promite furnizorul după ieșirea din sandbox?

Autoritatea transmite raportul de ieșire în cel mult 45 de zile lucrătoare de la finalizarea participării. La cererea furnizorului sau a potențialului furnizor, eliberează și o dovadă scrisă a activităților realizate cu succes. Autoritățile de supraveghere a pieței și organismele notificate din statele membre recunosc documentele pentru activitățile și rezultatele consemnate. Ele pot servi la evaluarea conformității. Niciunul dintre documente nu are însă efectul juridic al declarației de conformitate. Într-o ofertă comercială, simpla participare nu justifică afirmația „produs certificat de Uniunea Europeană”.

Ce aș cere ca avocat dacă produsul mi-ar fi prezentat drept „testat”? Aș vrea să pot reconstitui o eroare și după încheierea proiectului. Ce versiune a aplicației a fost testată? Ce planșă a consultat? Ce avertisment a afișat? Pentru aceste răspunsuri sunt utile evidențele tehnice, păstrate în limitele legale aplicabile fiecărei categorii de date.

Există și o decizie pe care aș lua-o înainte de predarea documentației tehnice. Aș identifica informațiile confidențiale ale firmei și ale partenerilor. Potrivit art. 6 alin. (7) și (8) din Regulamentul (UE) 2026/2487, publicarea raportului integral pe platforma europeană presupune acordul explicit al participantului și al autorității. Autoritatea poate publica totuși constatările neconfidențiale. Informațiile care nu au fost identificate drept confidențiale în plan sau semnalate expres înainte de încheierea proiectului se prezumă disponibile pentru divulgare, sub rezerva normelor aplicabile privind accesul la documente și confidențialitatea. Pentru proiectul urbanistic care ar reutiliza date personale în regimul art. 59 alin. (1) din AI Act, lit. (j) cere publicarea pe site-ul autorității a unui scurt rezumat al proiectului, al obiectivelor și al rezultatelor preconizate. Această obligație privește rezumatul chiar dacă participantul nu acceptă publicarea raportului integral.

Dacă aș negocia cumpărarea aplicației, aș cere raportul de ieșire, identificarea versiunii testate și lista situațiilor rămase în afara verificării. În contract aș trece cine actualizează planșele, în cât timp remediază o eroare și cine anunță utilizatorii care au primit deja răspunsul greșit. Pentru cumpărătorul care se pregătește să plătească avansul, cea mai valoroasă funcție a aplicației ar putea fi chiar aceea care afișează, la timp, „Lipsește planșa. Solicitați verificarea.”

     Surse oficiale

Dreptul Uniunii

Regulamentul de punere în aplicare (UE) 2026/2487, art. 1–6 și 10 · AI Act, forma consolidată, art. 3, 25, 57, 59 și 78 · Regulamentul (UE) 2026/1744, art. 1 pct. 22 · RGPD, considerentul 26 și art. 4–5

Dreptul român

Legea nr. 50/1991, art. 6 alin. (1) și (5) · Codul civil, art. 1.350, 1.357, 1.530 și 1.537 · OUG nr. 141/2021, art. 3, 6, 7 și 13

România

Guvernul României, comunicat din 12 martie 2026 · ANCOM, guvernanța în domeniul IA · Comisia Europeană, stadiul desemnării în statele membre · Programul de guvernare 2026–2028, măsura M9

Lituania

Agenția pentru Inovare din Lituania, consultații și calendarul programului

Ionescu & Asociații

Prezentare generală a confidențialității

Acest site folosește cookie-uri pentru a-ți putea oferi cea mai bună experiență în utilizare. Informațiile cookie sunt stocate în navigatorul tău și au rolul de a te recunoaște când te întorci pe site-ul nostru și de a ajuta echipa noastră să înțeleagă care sunt secțiunile site-ului pe care le găsești mai interesante și mai utile.