{"id":8287,"date":"2025-06-02T16:28:36","date_gmt":"2025-06-02T13:28:36","guid":{"rendered":"https:\/\/www.chirita-law.com\/?p=6828"},"modified":"2025-12-29T09:47:29","modified_gmt":"2025-12-29T07:47:29","slug":"ai-episodul-2-despre-practici-interzise-potrivit-ai-act","status":"publish","type":"post","link":"https:\/\/chirita-law.com\/en\/ai-episodul-2-despre-practici-interzise-potrivit-ai-act\/","title":{"rendered":"AI Episodul 2. Despre practici interzise potrivit AI Act"},"content":{"rendered":"

Cu titlu de scurt\u0103 recapitulare, spuneam \u00een primul articol pe care pute\u0163i s\u0103-l citi\u0163i aici<\/a> c\u0103 implementarea etapizat\u0103 a AI Act a \u00eenceput cu intrarea \u00een vigoare \u00een 2 februarie 2025 a practicilor interzise de furnizorii \u015fi implementatorii sistemelor de inteligen\u0163\u0103 artificial\u0103.<\/p>\n

Pentru c\u0103 au ap\u0103rut foarte multe \u00eentreb\u0103ri pe tema a ce e interzis \u015fi ce e permis, Comisia European\u0103 a elaborat un Ghid destul de complex (\u00eel pute\u0163i citi integral aici<\/a>) prin care a \u00eencercat s\u0103 ofere exemple practice de ce anume nu poate s\u0103 fac\u0103 un sistem de IA care se vrea accesibil pe pia\u0163a UE.<\/p>\n

Ab initio<\/em>, din considerentele AI Act se accentueaz\u0103 faptul c\u0103 scopul stabilirii interdic\u0163iilor nu este fr\u00e2narea dezvolt\u0103rii inteligen\u0163ei artificiale \u00een Uniunea European\u0103, ci protec\u0163ia drepturilor fundamentale de eventuale sisteme care fie sunt programate cu obiective gre\u015fite, fie sunt folosite de a\u015fa manier\u0103 \u00eenc\u00e2t ele ajung s\u0103 afecteze grav aceste drepturi. Cred c\u0103 e important de plecat de la aceast\u0103 premis\u0103, reiterat\u0103 de altfel constant \u015fi de Oficiul european de Inteligen\u0163\u0103 Artificial\u0103. Dac\u0103 v\u0103 tenteaz\u0103 s\u0103 citi\u0163i mai multe despre rolul, activitatea \u015fi competen\u0163ele lui pute\u0163i accesa pagina asta<\/a> \u015fi pute\u0163i vizita canalul de Youtube<\/a> unde sunt urcate webinarii foarte interesante.<\/p>\n

Practicile interzise sunt indicate la art. 5 din AI Act \u015fi ele au ca scop declarat protec\u0163ia drepturilor fundamentale ale persoanelor afectate. Din p\u0103cate, dup\u0103 cum vom vedea \u00een continuare, de\u015fi interzise, cel pu\u0163in o parte din ele sunt c\u00e2t se poate de folosite.<\/p>\n

a) Prima practic\u0103 interzis\u0103 e introducerea pe pia\u0163\u0103, punerea \u00een func\u0163iune sau utilizarea unui sistem de IA care utilizeaz\u0103 tehnici subliminale, manipulatoare sau \u00een\u015fel\u0103toare, determin\u00e2nd persoanele s\u0103 ia o decizie pe care altfel nu ar fi luat-o \u015fi care e apt\u0103 s\u0103 aduc\u0103 prejudicii.<\/p>\n

Intr\u0103 sub inciden\u0163a acestei practici at\u00e2t sistemele de IA care prezint\u0103 una din cele 3 variante de tehnici c\u00e2t \u015fi cele care practic combin\u0103 dou\u0103 sau chiar toate 3 din aceste tehnici. Cu titlu de exemplu, intr\u0103 \u00een aceast\u0103 categorie sisteme care reproduc imaginea sau vocea unei persoane cunoscute, f\u0103r\u0103 a se men\u0163iona evident c\u0103 este vorba despre un sistem de IA \u015fi nu de persoana impersonat\u0103, care ne apar \u00een diverse contexte (pe site-uri, prin mesaje sau mailuri, pe re\u0163ele de socializare) \u015fi care, prin mesajele transmise determin\u0103 persoanele s\u0103 ia o decizie prejudiciabil\u0103. Din p\u0103cate, \u00een ultima perioad\u0103 am auzit de tot mai multe scam-uri de acest gen cu persoane c\u0103rora le-au ap\u0103rut astfel de imagini ale unor celebrit\u0103\u0163i sau influenceri \u015fi care le spun s\u0103 fac\u0103 cump\u0103r\u0103turi de pe un site sau oameni care sunt suna\u0163i de o voce identic\u0103 cu cea a unui membru de familie \u015fi care le spun s\u0103 transfere bani sau s\u0103 cumpere un anumit produs. F\u0103r\u0103 a discuta latura penal\u0103 a acestor fapte, ele sunt interzise prin Regulamentul 1689 care are un efect orizontal \u015fi deci persoanele afectate se pot \u00eendrepta inclusiv \u00eempotriva entit\u0103\u0163ii care a dezvoltat un atare sistem pentru a-\u015fi recupera pagubele. Cred c\u0103 e relevant de spus aici c\u0103 intr\u0103 sub inciden\u021ba practicii interzise at\u00e2t dezvoltarea unor sisteme de IA care au ca scop denaturarea comportamentului persoanelor prin tehnicile indicate, c\u00e2t \u015fi cele care nu au fost dezvoltate cu un atare scop dar care au ca efect alterarea acestui comportament.<\/p>\n

Cu alte cuvinte, ne putem imagina situa\u0163ii \u00een care dezvoltatorul\/furnizorul unui sistem de IA are un scop legitim, declarat ca atare pentru respectivul sistem dar implementatorul decide s\u0103 \u00eel foloseasc\u0103 \u00een scopul ilicit interzis. Doar prin faptul c\u0103 scopul ini\u0163ial, declarat ca atare \u00een baza obliga\u0163iei de transparen\u0163\u0103, este unui licit nu e exclus\u0103 r\u0103spunderea celor care utilizeaz\u0103 sistemul. Din contr\u0103, \u00een baza AI Act autorit\u0103\u0163ile vor pleca desigur de la verificarea scopului \u015fi obiectivelor declarate ale sistemelor, dar vor merge pe fir \u015fi vor verifica modalitatea \u00een care acestea au fost utilizate pentru a se ajunge la efectele de alterare a comportamentului persoanelor. \u00cen cazul \u00een care cel care utilizeaz\u0103 sistemul de IA deraiaz\u0103 de la scopul s\u0103u licit, va r\u0103spunde.<\/p>\n

\u00cen afar\u0103 de exemplul pe care l-am oferit mai sus, mai pot fi imaginate multe altele care pot \u201eataca\u201d nu doar bunurile persoanelor ci chiar s\u0103n\u0103tatea lor, cum sunt bo\u0163ii care apar pe re\u0163ele de socializare \u015fi care pleac\u0103 de la comportamentul anterior al unei persoane (ex. date c\u0103utate online) \u015fi \u00eei ofer\u0103 planuri de antrenament fizic, planuri alimentare sau suplimente care sunt periculoase.<\/p>\n

b) A doua practic\u0103 interzis\u0103 prin Regulament e introducerea pe pia\u0163\u0103 sau utilizarea unui sistem de IA care exploateaz\u0103 vulnerabilit\u0103\u021bile persoanelor cauzate de v\u00e2rst\u0103, dizabilit\u0103\u021bi, situa\u021bia economic\u0103 \u015fi\/sau social\u0103. Exact ca \u00een cazul primei practici, sunt interzise nu doar sistemele IA care au acest scop, ci \u015fi care au ca efect alterarea comportamentului prin exploatarea vulnerabilit\u0103\u021bilor.<\/p>\n

Din p\u0103cate cred c\u0103 exist\u0103 multe sisteme de IA pe pia\u0163\u0103 care profit\u0103 de vulnerabilit\u0103\u0163ile persoanelor v\u00e2rstnice care devin \u0163inta unor reclame la diverse produse d\u0103un\u0103toare sau a copiilor c\u0103rora li se inoculeaz\u0103 sau accentueaz\u0103 dependen\u0163a de anumite jocuri, comportament care evident e toxic.<\/p>\n

At\u00e2t \u00een cazul primei interdic\u0163ii c\u00e2t \u015fi \u00een cazul celei de a doua, ce e relevant e ca, fie prin tipul de tehnici utilizate (litera a) fie profit\u00e2nd de diversele vulnerabilit\u0103\u0163i (litera b), IA-ul s\u0103 altereze comportamentul persoanei prin aceea c\u0103 o determin\u0103 s\u0103 adopte un comportament pe care \u00een mod normal nu l-ar fi adoptat, aspect care poate s\u0103-i creeze grave prejudicii.<\/p>\n

Ce trebuie men\u0163ionat \u00een acest context e c\u0103 o practic\u0103 poate s\u0103 cad\u0103 nu doar sub inciden\u0163a AI Act ci \u015fi a altor instrumente cum ar fi Regulamentul privind serviciile digitale (UE) 2022\/2065 (cunoscut sub denumirea de Digital Service Act sau DSA) care reglementeaz\u0103 obliga\u0163iile vizavi de con\u0163inutul platformelor digitale, Regulamentul (UE) 2024\/900 privind transparen\u0163a \u015fi publicitatea politic\u0103 (asta dac\u0103 tot discut\u0103m de comportament ilicit \u00een contextul alegerilor), GDPR, Regulamentul (UE) 2023\/988 privind siguran\u0163a general\u0103 a produselor sau a legisla\u0163iei penale.<\/p>\n

Faptul c\u0103 una \u015fi aceea\u015fi practic\u0103 e interzis\u0103 de mai multe instrumente nu \u00eei scade din eficacitate. Din contr\u0103, persoanele afectate pot opta pentru oricare din remediile specifice oferite de \u00eentreg cadrul legal, alternativ sau cumulativ, \u00een func\u0163ie de remediile pe care doresc s\u0103 le ob\u0163in\u0103.<\/p>\n

c) \u00cen al treilea r\u00e2nd, AI Act interzice sistemele de IA care pe baza punctajului social (social scoring) determin\u0103 adoptarea unui tratament prejudiciabil sau nefavorabil. Din punct de vedere practic, social scoring-ul \u00eenseamn\u0103 punctarea unei persoane pe baza comportamentului sau caracteristicilor sale personale cu scopul de a stabili ulterior un anumit tratament \u00een raport de acest punctaj. Cu titlu de exemplu, punctarea unor persoane \u00een \u015fomaj pe baza situa\u0163iei familiale, ale comportamentului \u015f.a. cu scopul de a se stabili dac\u0103 vor beneficia sau nu de o indemniza\u0163ie e o practic\u0103 interzis\u0103 care poate duce la discriminare.<\/p>\n

d) A patra practic\u0103 interzis\u0103 e crearea de profile infrac\u0163ionale pe baza tr\u0103s\u0103turilor \u015fi caracteristicilor de personalitate ale unei persoane. Ce e inclus aici e, spre exemplu, stabilirea printr-un sistem de IA c\u0103 persoanele care fumeaz\u0103, au tatuaje \u015fi beau alcool au \u015fanse mai mari s\u0103 comit\u0103 o infrac\u0163iune \u00een raport cu al\u0163ii care nu manifest\u0103 aceste tr\u0103s\u0103turi. Textul nu interzice \u00eens\u0103 utilizarea unui sistem de IA de c\u0103tre un om pentru a stabili dac\u0103 o persoan\u0103 a comis sau nu vreo infrac\u0163iune, pe baza unor date \u015fi fapte obiective.<\/p>\n

e) A cincea practic\u0103 interzis\u0103 e cunoscut\u0103 sub denumirea de untargeted scraping care \u00eenseamn\u0103 practic c\u0103 nu e permis s\u0103 se creeze sau extind\u0103 baze de date de recunoa\u015ftere facial\u0103 prin preluarea unor poze, video sau imagini CCTV accesibile pe Internet. Ce e important de men\u0163ionat aici e c\u0103, pentru a intra sub inciden\u0163a acestei interdic\u0163ii, trebuie ca sistemul de IA s\u0103 fie programat sau utilizat f\u0103r\u0103 vreo \u0163int\u0103 precis\u0103, adic\u0103 f\u0103r\u0103 a c\u0103uta o anumit\u0103 persoan\u0103. Per a contrario<\/em>, \u00een anumite situa\u0163ii \u015fi condi\u0163ii, e permis\u0103 utilizarea sistemelor de IA pentru a identifica o persoan\u0103 anume.<\/p>\n

f) E interzis, de asemenea, s\u0103 se introduc\u0103 pe pia\u0163\u0103 sau s\u0103 se utilizeze sisteme de inteligen\u0163\u0103 artificial\u0103 care deduc emo\u0163ii \u015fi tr\u0103iri ale persoanelor la locul de munc\u0103 sau institu\u0163ii de \u00eenv\u0103\u0163\u0103m\u00e2nt. Pe scurt, nu e permis s\u0103 utilizez un astfel de sistem pentru a m\u0103sura gradul de satisfac\u0163ie al angaja\u0163ilor sau, din contr\u0103, nemul\u0163umirea acestora, \u00een esen\u0163\u0103 pentru c\u0103 emo\u0163iile sunt pur subiective \u015fi modul \u00een care ele sunt exprimate e diferit de la persoan\u0103 la persoan\u0103.<\/p>\n

g) E interzis\u0103, de asemenea, introducerea pe pia\u0163\u0103 sau folosirea IA care clasific\u0103 persoanele pe baza datelor biometrice pentru a deduce rasa, opiniile politice, apartenen\u0163a la un sindicat, orientarea sexual\u0103, convingerile religioase sau filozofice.<\/p>\n

\u00cen esen\u0163\u0103, nu e permis s\u0103 se utilizeze sisteme de IA care deduc c\u0103 cei cu tatuaje, care fumeaz\u0103 \u015fi care beau alcool sunt atei. Per a contrario, nu e interzis s\u0103 se arate c\u0103 persoanele care poart\u0103 sutan\u0103 sunt cre\u015ftine deoarece sutana nu reprezint\u0103 o dat\u0103 biometric\u0103.<\/p>\n

h) Nu \u00een ultimul r\u00e2nd, e interzis\u0103 \u2013 ca regul\u0103 \u2013 utilizarea sistemelor de identificare biometric\u0103 la distan\u0163\u0103 \u00een timp real, \u00een spa\u0163ii accesibile publicului, \u00een scopul aplic\u0103rii legii. Aceast\u0103 regul\u0103 are trei excep\u0163ii men\u0163ionate clar \u015fi anume: atunci c\u00e2nd identificarea e necesar\u0103 pentru g\u0103sirea persoanelor disp\u0103rute, r\u0103pite sau care sunt victime ale traficului de persoane, pentru prevenirea unui pericol iminent sau amenin\u0163are substan\u0163ial\u0103 care vizeaz\u0103 via\u0163a sau siguran\u0163a fizic\u0103 a persoanelor sau a unei amenin\u0163\u0103ri de atac terorist \u015fi \u00een scopul desf\u0103\u015fur\u0103rii unei investiga\u0163ii penale sau a impunerii execut\u0103rii unor pedepse sau m\u0103suri de siguran\u0163\u0103 privative de libertate de minim 4 ani.<\/p>\n

Ce e absolut esen\u0163ial e c\u0103, pentru ca aceste excep\u0163ii s\u0103 fie aplicabile, ele trebuie expres reglementate \u00een legisla\u0163ia intern\u0103 a fiec\u0103rui stat care dore\u015fte s\u0103 se prevaleze de ele \u015fi \u00eentotdeauna sunt condi\u0163ionate de o aprobare prealabil\u0103 a unei autorit\u0103\u0163i judiciare sau administrative independente. \u00cen egal\u0103 m\u0103sur\u0103, utilizarea acestor sisteme trebuie \u00eentotdeauna semnalat\u0103 autorit\u0103\u0163ii de supraveghere competente \u015fi a Agen\u0163iei Na\u0163ionale pentru Protec\u0163ia datelor cu caracter personal. De asemenea, textul art. 5 lit. h din Regulamentul 1689 arat\u0103 c\u0103 nicio decizie cu impact negativ nu va putea fi luat\u0103 exclusiv pe baza datelor ob\u0163inute prin utilizarea (\u00een condi\u0163ii de egalitate, evident) a acestor sisteme.<\/p>\n

*<\/strong><\/p>\n

Aici voi pune punct Episodului 2 cu privire la practicile interzise de AI Act, urm\u00e2nd s\u0103 prezint c\u00e2t de cur\u00e2nd care sunt obliga\u0163iile companiilor cu privire la instruirea angaja\u0163ilor lor potrivit AI Act (Episodul 3) \u015fi respectiv cum se clasific\u0103 sistemele pe baza riscului (Episodul 4).<\/p>\n

 <\/p>\n

avocat Oana Chiri\u0163\u0103 \u2013 Partener fondator<\/p>","protected":false},"excerpt":{"rendered":"

Cu titlu de scurt\u0103 recapitulare, spuneam \u00een primul articol pe care pute\u0163i s\u0103-l citi\u0163i aici c\u0103 implementarea etapizat\u0103 a AI Act a \u00eenceput cu intrarea \u00een vigoare \u00een 2 februarie 2025 a practicilor interzise de furnizorii \u015fi implementatorii sistemelor de inteligen\u0163\u0103 artificial\u0103. Pentru c\u0103 au ap\u0103rut foarte multe \u00eentreb\u0103ri pe tema a ce e interzis […]<\/p>\n","protected":false},"author":5,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"inline_featured_image":false,"footnotes":""},"categories":[494,655],"tags":[],"class_list":["post-8287","post","type-post","status-publish","format-standard","hentry","category-e-commerce-tech-reglementari-digitale","category-reglementarea-inteligentei-artificiale"],"acf":[],"_links":{"self":[{"href":"https:\/\/chirita-law.com\/en\/wp-json\/wp\/v2\/posts\/8287","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/chirita-law.com\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/chirita-law.com\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/chirita-law.com\/en\/wp-json\/wp\/v2\/users\/5"}],"replies":[{"embeddable":true,"href":"https:\/\/chirita-law.com\/en\/wp-json\/wp\/v2\/comments?post=8287"}],"version-history":[{"count":0,"href":"https:\/\/chirita-law.com\/en\/wp-json\/wp\/v2\/posts\/8287\/revisions"}],"wp:attachment":[{"href":"https:\/\/chirita-law.com\/en\/wp-json\/wp\/v2\/media?parent=8287"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/chirita-law.com\/en\/wp-json\/wp\/v2\/categories?post=8287"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/chirita-law.com\/en\/wp-json\/wp\/v2\/tags?post=8287"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}