
Act AI pune ordine în dezvoltarea și utilizarea soluțiilor AI în recrutare pentru a proteja candidații de riscul încălcării drepturilor fundamentale
19 Noiembrie 2024
Cristiana Deca, CEO DecalexRegulamentul cere ca entitățile care dezvoltă și implementează IA să fie trasabile și să poată fi trase la răspundere în caz de incidente sau erori.
![]() |
Regulamentul privind Inteligența Artificială (AI Act), prin care sunt detaliate toate aspectele de care să țină cont atât furnizorii de soluții AI în HR cât și utilizatorii finali în construcția unei soluții de recrutare bazate pe AI și în actul de recrutare ca atare, a intrat în vigoare în vara acestui an. Cele aproape 200 de articole stabilesc criteriile pe care angajatorii trebuie le abia în vedere atunci când apelează la soluții de recrutare construite pe baze GenAI și regulile foarte clare de urmat de către furnizorii acestor soluții în procesul de concepere a acestora.
Scopul este acela de a pune „la adăpost” drepturile fundamentale ale candidaților și de a preveni pe cât posibil încălcarea acestora prin soluții de recrutare bazate pe AI care nu se conformează a priori unor reguli bine stabilite. Cu alte cuvinte, regulamentul special creat pentru reglementarea domeniului de recrutare bazat pe AI vine în ideea de a asigura un echilibru între stimularea inovării și protecția drepturilor cetățenilor, pe fondul utilizării responsabile a acestor soluții.
Scopul este acela de a pune „la adăpost” drepturile fundamentale ale candidaților și de a preveni pe cât posibil încălcarea acestora prin soluții de recrutare bazate pe AI care nu se conformează a priori unor reguli bine stabilite. Cu alte cuvinte, regulamentul special creat pentru reglementarea domeniului de recrutare bazat pe AI vine în ideea de a asigura un echilibru între stimularea inovării și protecția drepturilor cetățenilor, pe fondul utilizării responsabile a acestor soluții.
AI Act, în vigoare la 1 august 2024, clasifica aceste soluții în funcție de gradul de risc, fiind esențial pentru beneficiari să aibă la îndemâna criterii de alegere. Prevederile regulamentului merg până la a interzice utilizarea soluțiilor AI care analizează sau monitorizează caracteristici sau trăsături emoționale ale candidaților la angajare și acordă o foarte mare atenție respectării drepturilor fundamentale ale omului.
Regulamentul definește nu mai puțin de patru categorii de risc, astfel:
1. Sisteme de IA cu risc inacceptabil (interzise)
Aceasta este cea mai strictă categorie și include sistemele de IA care sunt considerate o amenințare gravă la adresa siguranței și drepturilor fundamentale ale omului. Acestea sunt interzise complet în UE și aș menționa aici manipularea comportamentală subliminală care poate influența persoanele într-un mod care le poate afecta liberul arbitru (cum sunt minorii sau alt tip de persoane vulnerabile).
2. Sisteme IA cu risc ridicat
Sunt definite aici sisteme care prezintă riscuri semnificative pentru siguranță și drepturile fundamentale, fiind supuse unor reguli stricte de conformitate. Sistemele de IA cu risc ridicat sunt permise doar dacă respectă anumite cerințe riguroase legate de siguranță, transparență, responsabilitate și monitorizare.
Regulamentul impune aici o serie de pasi, începând cu Evaluarea riguroasă, înainte de utilizare (audituri de conformitate, evaluarea riscurilor etc.) a soluției respective. Apoi, Transparență în privința construcției soluției respective de recrutare, iar utilizatorii trebuie să fie informați că interacționează cu un sistem de IA. Este obligatorie, de asemenea, supravegherea umană constantă pentru a reduce riscul de decizii eronate sau neetice.
3. Sisteme de IA cu risc limitat
Aceste sisteme sunt considerate mai puțin periculoase, totuși trebuie să respecte anumite norme de transparență. De obicei, acestea implică interacțiuni cu utilizatori, iar aceștia trebuie informați că interacționează cu un sistem de inteligență artificială. Exemple: Chatbots sau asistenți virtuali și Sistemele de recomandare pe platforme de streaming sau comerț electronic sunt cele mai des create și utilizate, despre care beneficiarii trebuie să înțeleagă că interacționează cu un agent automatizat.
4. Sisteme de IA cu risc minim
Acestea sunt considerate a fi cu cel mai scăzut nivel de risc și sunt permise fără reguli speciale, fiind în esență lăsate să opereze liber. Acest tip de sisteme include, de exemplu, IA utilizată pentru aplicații de divertisment sau majoritatea aplicațiilor de gaming.
Act AI detaliază modul de abordare și prevenire a riscurilor cu cea mai mare probabilitate de apariție, astfel:
Discriminare și părtinire, unde se acordă o atenție deosebită evitării discriminării pe baza IA, mai ales în contextul evaluărilor automate în domenii precum angajarea sau accesul la servicii publice. Apoi, Supravegherea și pierderea confidențialității, prin care se urmărește prevenirea abuzurilor de supraveghere în masă prin recunoașterea facială sau alte tehnologii de identificare biometrică. Și nu în ultimul rând, Răspunderea și responsabilitatea. Regulamentul cere ca entitățile care dezvoltă și implementează IA să fie trasabile și să poată fi trase la răspundere în caz de incidente sau erori.
Ca expert pe zona drepturilor fundamentale ale omului și, prin extensia necesară din ultimii peste 10 ani în cybersecurity și GDPR, aș spune că avem cel puțin două aspecte esențiale de care trebuie să țină cont angajatorii atunci când se decid să implementeze o soluție de tip AI în procesul intern de recrutare: 1. Analiza în acord cu prevederile noului regulament CE a oricărei soluții AI propusă de către provideri, tocmai pentru a evita pe cât posibil cele două riscuri majore: neconformare cu regulamentul și eventuale procese cu angajații sau potențiali angajați, pe baza unui Audit și 2. Alegerea celei mai puțin expuse soluții la una dintre cele trei categorii de riscuri identificate de către analiștii comisiei – ridicat, moderat și scăzut – în funcție de specificul companiei și al domeniului de activitate.
Recomand companiilor să urmeze serie de pași, obligatorii în contextul apariției Act AI, bazați pe adaptabilitate, conformitate și independența de soluțiile AI și crearea unor proceduri interne foarte clare, care să le protejeze de toate riscurile expuse mai sus (cel puțin), urmând câțiva pași absolut obligatorii atunci când apelează la o soluție AI pentru filtrarea CV-urilor și analiza abilităților candidaților pe baza unor interviuri automate. Pentru a respecta AI Act, ar trebui identificat și clasificat sistemul AI pe care urmează să-l adoptați, să stabiliți un cadru de guvernanță a datelor, care să vă asigure transparența în relația cu utilizatorii. Este bine ca solutia AI să fie auditata la fiecare șase luni pentru a va asigura că performanța rămâne conformă cu reglementările. Auditul include analiza deciziilor luate de AI și verificarea conformității cu politicile de etică și confidențialitate. Se poate considera că adoptarea Act AI constituie unul dintre pașii importanți în definirea cadrului în care soluțiile bazate pe inteligența artificială pot fi create și adoptate de către utilizatori (companii) în procesele, din ce în ce mai complexe, de recrutare, într-o piață a forței de muncă total modificată, așa cum apare aceasta ca fiind în ultimii cinci ani, post-pandemie.
Publicitate pe BizLawyer? |
![]() ![]() |
Articol 877 / 9892 | Următorul articol |
Publicitate pe BizLawyer? |
![]() |

BREAKING NEWS
ESENTIAL
Taylor Wessing și Freshfields, în tranzacția prin care Continental își vinde divizia ContiTech OESL către fondul de investții Regent. Avocați din România, în tranzacție
Lexology Energy Rankings 2025 | Cine sunt avocații români care s-au remarcat într-o practică devenită, în ultimii ani, un adevărat laborator de inovație juridică: ZRVP, CMS, TZA și NNDKP au o amprentă bine conturată în Oil & Gas. NNDKP strălucește și în Power & Electricity, unde se remarcă și Kinstellar, dar și în Renewables
ANALIZĂ | Gabriel Resources a deschis o procedură de anulare a hotărârii ICSID prin care Tribunalul arbitral a respins cererea de peste 3 mld. USD privind controversatul proiect minier de la Roșia Montană, iar România a răspuns cu un Contramemoriu care demontează acuzațiile și atacă frontal strategia reclamanților. Dacă statul ar pierde, impactul ar fi devastator pentru finanțele publice și ar compromite rezultatele măsurilor pe care guvernul Bolojan încearcă să le implementeze
CMS | Join Our Team: Tax Consultant - Tax Department
Ana-Maria Baciu, avocatul din România cu cele mai multe nominalizări la gala Legal 500 CEE Awards 2025: Intellectual Property Lawyer of the Year, Romania Lawyer of the Year și CEE Partner of the Year. Astfel de validări contribuie nu doar la consolidarea brandului său personal, ci și la repoziționarea avocaturii de business din România ca un partener credibil, capabil să ofere consultanță sofisticată clienților internaționali
Filip & Company a asistat statul român prin Ministerul Finanțelor în contractarea unor plasamente private sub forma de împrumuturi în valoare de peste 2 miliarde de euro | Echipa, coordonată de Alexandra Manciulea (partener)
Ce case de avocatură se bat pentru titlul de Law Firm of the Year în România la gala Benchmark Litigation Europe Awards 2025 | Sorina Olaru, Octavian Popescu, Dan Cristea și Cosmin Vasile, printre avocații aflați pe lista scurtă pentru titlul de titlul de Litigator of the Year. Emil Bivolaru (partener NNDKP), nominalizat și la categoria Central & Eastern Europe Litigator of the Year
Finanțele caută avocați pentru litigii arbitrale investiționale internaționale judecate potrivit regulilor de arbitraj UNCITRAL și ICSID | Acorduri-cadru de reprezentare juridică a României semnate, pentru 4 ani, cu cel mult 4 firme pentru fiecare lot
LegiTeam: Lawyer - Dispute Resolution and Employment | GNP Guia Naghi and Partners
ITR EMEA Tax Awards 2025 | Băncilă Diaconu și Asociații, Popescu & Asociații, CMS și Schoenherr concurează pentru titlul ”Firma anului în România în domeniul taxelor”. Popescu & Asociații are două nominalizări în jurisdicția locală și este, alături de NNDKP, pe lista scurtă pentru distincția ”Firma anului în dispute fiscale”. TZA, printre finaliste în competitia pentru ”Transfer Pricing Firm of the Year”
Bondoc & Asociații acordă asistență pentru 5 proiecte eoliene și solare în cadrul celei de-a doua licitații CfD din România | Echipa a fost coordonată de Cosmin Stăvaru (Partener), susținut de Raluca Catargiu (Senior Associate)
Bulboacă & Asociatii caută un Avocat Colaborator pentru Echipa de Tranzacții de Elită (Corporate ̸ M&A)
Citeste pe SeeNews Digital Network
-
BizBanker
-
BizLeader
- in curand...
-
SeeNews
in curand...