Utilizarea sistemelor bazate pe inteligența artificială în contextul relațiilor de muncă
20 Noiembrie 2024
Ioan Dumitrașcu (partner), Diana Gavra (senior associate), Christiana Bouleanu (associate) - Filip & CompanyImplicații juridice pentru angajatori din perspectiva GDPR și a Regulamentului AI
1. Regulamentul AI – obligații și pentru organizațiile care utilizează sistemele de AI
Regulamentul UE privind inteligența artificială (Regulamentul AI) stabilește un cadru normativ obligatoriu pentru operatorii economici implicați în furnizarea, implementarea, importul și distribuția sistemelor de AI. Deși acesta a intrat în vigoare încă de la 1 august 2024, majoritatea prevederilor vor deveni aplicabile începând cu data de 2 august 2026 (anumite aspecte urmând a fi deja aplicabile din 2025).
Sfera de aplicare a Regulamentului AI este una destul de extinsă. Acesta stabilește obligații specifice inclusiv pentru entitățile care utilizează un sistem de AI aflat sub autoritatea acestora și care au sediul sau se află pe teritoriul UE (denumiți „implementatori”). În concret, angajatorii care utilizează sisteme de AI în relația cu angajații sau candidații în procesul de recrutare vor trebui să țină cont de aceste cerințe atunci când au în vedere achiziționarea și implementarea unor astfel de sisteme.
Regulamentul UE privind inteligența artificială (Regulamentul AI) stabilește un cadru normativ obligatoriu pentru operatorii economici implicați în furnizarea, implementarea, importul și distribuția sistemelor de AI. Deși acesta a intrat în vigoare încă de la 1 august 2024, majoritatea prevederilor vor deveni aplicabile începând cu data de 2 august 2026 (anumite aspecte urmând a fi deja aplicabile din 2025).
Sfera de aplicare a Regulamentului AI este una destul de extinsă. Acesta stabilește obligații specifice inclusiv pentru entitățile care utilizează un sistem de AI aflat sub autoritatea acestora și care au sediul sau se află pe teritoriul UE (denumiți „implementatori”). În concret, angajatorii care utilizează sisteme de AI în relația cu angajații sau candidații în procesul de recrutare vor trebui să țină cont de aceste cerințe atunci când au în vedere achiziționarea și implementarea unor astfel de sisteme.
Regulamentul AI clasifică anumite sisteme de AI utilizate în contextul resurselor umane și ocupării forței de muncă ca sisteme cu risc ridicat, care pot fi implementate, ca regulă, doar cu respectarea anumitor obligații specifice de transparență și responsabilitate, esențiale pentru respectarea cadrului legal în vigoare și protejarea drepturilor persoanelor vizate.
Astfel de sisteme pot viza:
• Recrutarea sau selectarea candidaților (în special pentru a plasa anunțuri de angajare direcționate în mod specific, pentru a analiza și a filtra candidaturile pentru locuri de muncă și pentru a evalua candidații);
• Utilizarea pentru a lua decizii care afectează termenii relațiilor de muncă;
• Promovarea și încetarea relațiilor contractuale de muncă;
• Alocarea sarcinilor pe baza comportamentului individual sau a trăsăturilor ori caracteristicilor personale ale angajaților;
• Monitorizarea și evaluarea performanței și comportamentului angajaților.
• Utilizarea pentru a lua decizii care afectează termenii relațiilor de muncă;
• Promovarea și încetarea relațiilor contractuale de muncă;
• Alocarea sarcinilor pe baza comportamentului individual sau a trăsăturilor ori caracteristicilor personale ale angajaților;
• Monitorizarea și evaluarea performanței și comportamentului angajaților.
Regulamentul AI stabilește și anumite situații de excepție, în care sistemele de AI menționate mai sus nu vor fi considerate ca prezentând un grad de risc ridicat, și anume dacă nu prezintă un risc semnificativ de a aduce prejudicii sănătății, siguranței sau drepturilor fundamentale ale persoanelor fizice, inclusiv prin faptul că nu influențează în mod semnificativ rezultatul procesului decizional.
Noutatea adusă de componenta de AI în sistemele și procesele automate utilizate până acum în contextul relațiilor de muncă poate fi componenta decizională în baza căreia, sistemul de AI poate aprecia rezultatul unui proces pe baza analizei informațiilor oferite.
Potrivit Regulamentului AI, aceste sisteme ar trebui clasificate ca prezentând un grad ridicat de risc întrucât ar putea avea un impact semnificativ asupra viitoarelor perspective de carieră, asupra mijloacelor de subzistență și asupra drepturilor angajaților. Astfel, în procesul de recrutare, precum și în evaluarea, promovarea sau menținerea persoanelor în relații contractuale de muncă, se consideră că există riscul ca sistemele de AI să perpetueze tipare istorice de discriminare, sau atunci când sunt utilizate pentru a monitoriza performanța și comportamentul persoanelor, ar putea conduce la afectarea drepturilor fundamentale la protecția datelor și la viața privată.
Menționăm pe scurt principalele obligații prevăzute de Regulamentul AI pentru implementatorii de sisteme de AI cu grad ridicat de risc (de exemplu angajatorii care utilizează astfel de sisteme):
• Informarea persoanelor fizice că fac obiectul utilizării sistemului de AI cu grad ridicat de risc, atunci când sistemul ia decizii sau contribuie la luarea deciziilor referitoare la persoane fizice;
• Informarea reprezentanților angajaților și angajaților afectați că vor face obiectul utilizării sistemului de AI, înainte de punerea în funcțiune sau de utilizarea unui sistem de AI cu grad ridicat de risc la locul de muncă, de către implementatorii care sunt angajatori;
• Implementarea de măsuri tehnice și organizatorice corespunzătoare pentru a se asigura că utilizează astfel de sisteme în conformitate cu instrucțiunile de utilizare;
• Asigurarea unei supravegheri umane încredințate unor persoane fizice care au competența, formarea, autoritatea și sprijinul necesar;
• Asigurarea faptului că datele de intrare sunt relevante și suficient de reprezentative în raport cu scopul preconizat al sistemului de AI (dacă implementatorul are control asupra datelor respective);
• Păstrarea fișierelor de jurnalizare generate automat de respectivele sisteme de AI (logs), în măsura în care fișierele se află sub controlul implementatorilor, pentru o perioadă adecvată scopului preconizat al sistemului de AI, de cel puțin șase luni, dacă nu se prevede altfel în lege;
• Monitorizarea funcționării sistemului de AI pe baza instrucțiunilor de utilizare, precum și anumite obligații de notificare față de furnizor, importator, distribuitor sau autoritatea competentă.
• Informarea reprezentanților angajaților și angajaților afectați că vor face obiectul utilizării sistemului de AI, înainte de punerea în funcțiune sau de utilizarea unui sistem de AI cu grad ridicat de risc la locul de muncă, de către implementatorii care sunt angajatori;
• Implementarea de măsuri tehnice și organizatorice corespunzătoare pentru a se asigura că utilizează astfel de sisteme în conformitate cu instrucțiunile de utilizare;
• Asigurarea unei supravegheri umane încredințate unor persoane fizice care au competența, formarea, autoritatea și sprijinul necesar;
• Asigurarea faptului că datele de intrare sunt relevante și suficient de reprezentative în raport cu scopul preconizat al sistemului de AI (dacă implementatorul are control asupra datelor respective);
• Păstrarea fișierelor de jurnalizare generate automat de respectivele sisteme de AI (logs), în măsura în care fișierele se află sub controlul implementatorilor, pentru o perioadă adecvată scopului preconizat al sistemului de AI, de cel puțin șase luni, dacă nu se prevede altfel în lege;
• Monitorizarea funcționării sistemului de AI pe baza instrucțiunilor de utilizare, precum și anumite obligații de notificare față de furnizor, importator, distribuitor sau autoritatea competentă.
De asemenea, Regulamentul AI prevede și anumite practici interzise în domeniul AI, printre care și utilizarea unor sisteme de AI pentru a deduce emoțiile unei persoane fizice în sfera locului de muncă.
2. GDPR în continuare un punct important pe agendă.
Implementarea cerințelor GDPR ar trebui să fie în continuare un punct important pe agenda organizațiilor care utilizează sisteme de AI care implică prelucrarea datelor cu caracter personal, GDPR fiind aplicabil alături de Regulamentul AI. Recent, autoritatea de protecție a datelor din UK (ICO) a publicat un material util cu recomandări pentru entitățile care desfășoară activități de recrutare cu utilizarea sistemelor de AI (Instrumente AI în recrutare. Raportul rezultatelor auditului – Noiembrie 2024).
Astfel, pe lângă obligațiile prevăzute de Regulamentul AI, înainte de implementarea unui sistem de AI, angajatorii ar trebui să aibă în vedere și măsurile necesare pentru conformarea cu GDPR, cum ar fi:
• Stabilirea clară a scopurilor și temeiurilor pentru datele prelucrate prin intermediul sistemului de AI. ICO menționează de exemplu ca posibile temeiuri consimțământul sau interesul legitim, însă acesta va trebui determinat de la caz la caz, ținând cont și de posibila calificare a activității ca proces decizional individual automatizat în sensul GDPR;
De asemenea, este important ca organizația să înțeleagă modul de funcționare a sistemului de AI, pentru a putea interpreta și utiliza rezultatul în mod corespunzător, și să țină cont de cerința minimizării datelor prelucrate;
• Actualizarea notelor de informare a persoanelor vizate cu privire la prelucrarea datelor prin intermediul sistemelor de AI;
• Analiza relației cu furnizorul sistemului de AI din perspectiva rolurilor avute în activitatea de prelucrare (operator/persoană împuternicită) și documentarea acesteia, inclusiv din perspectiva garanțiilor de securitate a datelor;
De exemplu, ICO menționează că atunci când furnizorul AI utilizează datele personale primite de la mai mulți angajatori pentru a dezvolta, testa sau antrena un model central AI pe care să îl pună la dispoziția tuturor angajatorilor, ar putea fi considerat ca operator de date. În schimb, dacă furnizorul AI antrenează sistemul de AI sau algoritmul doar cu datele unui anumit angajator, și doar pentru uzul respectivului angajator, în baza unor instrucțiuni explicite, acesta ar putea acționa de fapt ca o persoană împuternicită în sensul GDPR.
• Dacă utilizarea sistemelor de AI implică monitorizarea angajaților pe baza interesului legitim, trebuie avute în vedere și cerințele prevăzute de Legea 190/2018 (de exemplu, posibilitatea de a demonstra că alte modalități mai puțin intruzive pentru atingerea scopului urmărit nu și-au dovedit anterior eficiența, întocmirea unei analize a interesului legitim, consultarea sindicatului sau a reprezentanților angajaților, durata limitată de stocare);
• Efectuarea unei evaluări a impactului asupra protecției datelor, atunci când utilizarea sistemelor de AI poate crea un risc ridicat față de persoanele vizate;
• Întocmirea unei politici interne de utilizare a sistemelor de AI poate fi de asemenea un instrument util care să ajute organizația în procesul de conformare.
De asemenea, este important ca organizația să înțeleagă modul de funcționare a sistemului de AI, pentru a putea interpreta și utiliza rezultatul în mod corespunzător, și să țină cont de cerința minimizării datelor prelucrate;
• Actualizarea notelor de informare a persoanelor vizate cu privire la prelucrarea datelor prin intermediul sistemelor de AI;
• Analiza relației cu furnizorul sistemului de AI din perspectiva rolurilor avute în activitatea de prelucrare (operator/persoană împuternicită) și documentarea acesteia, inclusiv din perspectiva garanțiilor de securitate a datelor;
De exemplu, ICO menționează că atunci când furnizorul AI utilizează datele personale primite de la mai mulți angajatori pentru a dezvolta, testa sau antrena un model central AI pe care să îl pună la dispoziția tuturor angajatorilor, ar putea fi considerat ca operator de date. În schimb, dacă furnizorul AI antrenează sistemul de AI sau algoritmul doar cu datele unui anumit angajator, și doar pentru uzul respectivului angajator, în baza unor instrucțiuni explicite, acesta ar putea acționa de fapt ca o persoană împuternicită în sensul GDPR.
• Dacă utilizarea sistemelor de AI implică monitorizarea angajaților pe baza interesului legitim, trebuie avute în vedere și cerințele prevăzute de Legea 190/2018 (de exemplu, posibilitatea de a demonstra că alte modalități mai puțin intruzive pentru atingerea scopului urmărit nu și-au dovedit anterior eficiența, întocmirea unei analize a interesului legitim, consultarea sindicatului sau a reprezentanților angajaților, durata limitată de stocare);
• Efectuarea unei evaluări a impactului asupra protecției datelor, atunci când utilizarea sistemelor de AI poate crea un risc ridicat față de persoanele vizate;
• Întocmirea unei politici interne de utilizare a sistemelor de AI poate fi de asemenea un instrument util care să ajute organizația în procesul de conformare.
În concluzie, implementarea sistemelor de inteligență artificială în contextul relațiilor de muncă necesită o abordare atentă și riguroasă din partea angajatorilor în calitatea acestora de implementatori și operatori, atât din perspectiva obligațiilor impuse de Regulamentul AI, cât și a celor legate de protecția datelor cu caracter personal.
Publicitate pe BizLawyer? |
Articol 47 / 9079 | Următorul articol |
Publicitate pe BizLawyer? |
BREAKING NEWS
ESENTIAL
RTPR semnează a 28-a tranzacție de private equity din ultimii 2 ani. Firma de avocați a asistat cu succes Abris Capital Partners în exit-ul din Pehart Grup
Consolidare pe piață agricolă pentru un jucător important din domeniul comerțului cu produse agricole și de morărit, prin finanțarea asistată de Bulboacă și Asociații
Schoenherr își extinde Italian Desk într-o structură inovatoare la nivelul Europei Centrale și de Est
Wolf Theiss a asistat BCR cu privire la acordarea unei finanțări de 29,5 mil. € pentru clădirea de birouri Unirii View din București. Claudia Chiper (partener) a coordonat echipa
Echipa Wolf Theiss dedicată proiectelor din materia insolvenței este în proces de creștere și consolidare, având în vedere interesul ridicat acordat acestui domeniu și creșterea numărului și complexității proiectelor. ”În perioada recentă, ne-au fost solicitate de către clienți numeroase analize privind posibila deschidere a procedurii insolvenței, efectele și riscurile unei astfel de proceduri, dar și opțiunile reglementate pentru restructurarea afacerii, ceea ce arată interesul crescut al companiilor în utilizarea mecanismelor legale”, spun avocații
Client Choice by Lexology | Patru avocați din România au primit recunoaștere anul acesta și au fost incluși în categoria Global Elite Thought Leader. Georgiana Bădescu (partener Schoenherr) și Luminița Popa (fondator Popa Legal), printre profesioniștii români recomandați de clienți pentru serviciile ireproșabile și calitatea asistenței oferite
Meet the Professionals | Din vorbă în vorbă cu Irina Stănică, absolventă „Magna cum Laude” a Facultății de Drept și coordonatoarea practicii de Dreptul Muncii de la Toncescu și Asociații - KPMG Legal, promovată recent pe poziția de Partener: ”Evoluția unui avocat depinde de un echilibru între talent, muncă și capacitatea de adaptare la schimbare. Consider că un comportament etic, împreună cu competența tehnică și relațiile interpersonale, fac ca un avocat să facă un pas în față într-un mediu competitiv”
Insolvență ̸ Restructurare | În spatele scenei, alături de echipa NNDKP, într-o discuție cu trei dintre coordonatorii acestui segment de practică ce a generat venituri de cca. 11 % din total, anul trecut. Debt-recovery rămâne în continuare o parte importantă din activitatea echipei. Focusul tinde să migreze spre procedurile de pre-insolvență, iar componenta de turnaround și restructurare crește în mod constant. Numărul procedurilor de insolvență va crește cu 10-12% în următorii doi ani, estimează avocații
LegiTeam: Zamfirescu Racoţi Vasile & Partners recrutează avocat definitiv | Consultanță
LegiTeam: Lawyer - Corporate M&A | Reff & Associates
LegiTeam: Zamfirescu Racoţi Vasile & Partners recrutează avocat definitiv, cu experiență relevantă în profesie între 5-8 ani | Litigii
CMS, desemnată de Mergermarket drept firma anului în domeniul fuziunilor și achizițiilor în Europa Centrală și de Est
Citeste pe SeeNews Digital Network
-
BizBanker
-
BizLeader
- in curand...
-
SeeNews
in curand...