RSS
Utilizarea sistemelor bazate pe inteligența artificială în contextul relațiilor de muncă
20 Noiembrie 2024 Ioan Dumitrașcu (partner), Diana Gavra (senior associate), Christiana Bouleanu (associate) - Filip & Company
Implicații juridice pentru angajatori din perspectiva GDPR și a Regulamentului AI
|
1. Regulamentul AI – obligații și pentru organizațiile care utilizează sistemele de AI
Regulamentul UE privind inteligența artificială (Regulamentul AI) stabilește un cadru normativ obligatoriu pentru operatorii economici implicați în furnizarea, implementarea, importul și distribuția sistemelor de AI. Deși acesta a intrat în vigoare încă de la 1 august 2024, majoritatea prevederilor vor deveni aplicabile începând cu data de 2 august 2026 (anumite aspecte urmând a fi deja aplicabile din 2025).
Sfera de aplicare a Regulamentului AI este una destul de extinsă. Acesta stabilește obligații specifice inclusiv pentru entitățile care utilizează un sistem de AI aflat sub autoritatea acestora și care au sediul sau se află pe teritoriul UE (denumiți „implementatori”). În concret, angajatorii care utilizează sisteme de AI în relația cu angajații sau candidații în procesul de recrutare vor trebui să țină cont de aceste cerințe atunci când au în vedere achiziționarea și implementarea unor astfel de sisteme.
Regulamentul UE privind inteligența artificială (Regulamentul AI) stabilește un cadru normativ obligatoriu pentru operatorii economici implicați în furnizarea, implementarea, importul și distribuția sistemelor de AI. Deși acesta a intrat în vigoare încă de la 1 august 2024, majoritatea prevederilor vor deveni aplicabile începând cu data de 2 august 2026 (anumite aspecte urmând a fi deja aplicabile din 2025).
Sfera de aplicare a Regulamentului AI este una destul de extinsă. Acesta stabilește obligații specifice inclusiv pentru entitățile care utilizează un sistem de AI aflat sub autoritatea acestora și care au sediul sau se află pe teritoriul UE (denumiți „implementatori”). În concret, angajatorii care utilizează sisteme de AI în relația cu angajații sau candidații în procesul de recrutare vor trebui să țină cont de aceste cerințe atunci când au în vedere achiziționarea și implementarea unor astfel de sisteme.
Regulamentul AI clasifică anumite sisteme de AI utilizate în contextul resurselor umane și ocupării forței de muncă ca sisteme cu risc ridicat, care pot fi implementate, ca regulă, doar cu respectarea anumitor obligații specifice de transparență și responsabilitate, esențiale pentru respectarea cadrului legal în vigoare și protejarea drepturilor persoanelor vizate.
Astfel de sisteme pot viza:
• Recrutarea sau selectarea candidaților (în special pentru a plasa anunțuri de angajare direcționate în mod specific, pentru a analiza și a filtra candidaturile pentru locuri de muncă și pentru a evalua candidații);
• Utilizarea pentru a lua decizii care afectează termenii relațiilor de muncă;
• Promovarea și încetarea relațiilor contractuale de muncă;
• Alocarea sarcinilor pe baza comportamentului individual sau a trăsăturilor ori caracteristicilor personale ale angajaților;
• Monitorizarea și evaluarea performanței și comportamentului angajaților.
• Utilizarea pentru a lua decizii care afectează termenii relațiilor de muncă;
• Promovarea și încetarea relațiilor contractuale de muncă;
• Alocarea sarcinilor pe baza comportamentului individual sau a trăsăturilor ori caracteristicilor personale ale angajaților;
• Monitorizarea și evaluarea performanței și comportamentului angajaților.
Regulamentul AI stabilește și anumite situații de excepție, în care sistemele de AI menționate mai sus nu vor fi considerate ca prezentând un grad de risc ridicat, și anume dacă nu prezintă un risc semnificativ de a aduce prejudicii sănătății, siguranței sau drepturilor fundamentale ale persoanelor fizice, inclusiv prin faptul că nu influențează în mod semnificativ rezultatul procesului decizional.
Noutatea adusă de componenta de AI în sistemele și procesele automate utilizate până acum în contextul relațiilor de muncă poate fi componenta decizională în baza căreia, sistemul de AI poate aprecia rezultatul unui proces pe baza analizei informațiilor oferite.
Potrivit Regulamentului AI, aceste sisteme ar trebui clasificate ca prezentând un grad ridicat de risc întrucât ar putea avea un impact semnificativ asupra viitoarelor perspective de carieră, asupra mijloacelor de subzistență și asupra drepturilor angajaților. Astfel, în procesul de recrutare, precum și în evaluarea, promovarea sau menținerea persoanelor în relații contractuale de muncă, se consideră că există riscul ca sistemele de AI să perpetueze tipare istorice de discriminare, sau atunci când sunt utilizate pentru a monitoriza performanța și comportamentul persoanelor, ar putea conduce la afectarea drepturilor fundamentale la protecția datelor și la viața privată.
Menționăm pe scurt principalele obligații prevăzute de Regulamentul AI pentru implementatorii de sisteme de AI cu grad ridicat de risc (de exemplu angajatorii care utilizează astfel de sisteme):
• Informarea persoanelor fizice că fac obiectul utilizării sistemului de AI cu grad ridicat de risc, atunci când sistemul ia decizii sau contribuie la luarea deciziilor referitoare la persoane fizice;
• Informarea reprezentanților angajaților și angajaților afectați că vor face obiectul utilizării sistemului de AI, înainte de punerea în funcțiune sau de utilizarea unui sistem de AI cu grad ridicat de risc la locul de muncă, de către implementatorii care sunt angajatori;
• Implementarea de măsuri tehnice și organizatorice corespunzătoare pentru a se asigura că utilizează astfel de sisteme în conformitate cu instrucțiunile de utilizare;
• Asigurarea unei supravegheri umane încredințate unor persoane fizice care au competența, formarea, autoritatea și sprijinul necesar;
• Asigurarea faptului că datele de intrare sunt relevante și suficient de reprezentative în raport cu scopul preconizat al sistemului de AI (dacă implementatorul are control asupra datelor respective);
• Păstrarea fișierelor de jurnalizare generate automat de respectivele sisteme de AI (logs), în măsura în care fișierele se află sub controlul implementatorilor, pentru o perioadă adecvată scopului preconizat al sistemului de AI, de cel puțin șase luni, dacă nu se prevede altfel în lege;
• Monitorizarea funcționării sistemului de AI pe baza instrucțiunilor de utilizare, precum și anumite obligații de notificare față de furnizor, importator, distribuitor sau autoritatea competentă.
• Informarea reprezentanților angajaților și angajaților afectați că vor face obiectul utilizării sistemului de AI, înainte de punerea în funcțiune sau de utilizarea unui sistem de AI cu grad ridicat de risc la locul de muncă, de către implementatorii care sunt angajatori;
• Implementarea de măsuri tehnice și organizatorice corespunzătoare pentru a se asigura că utilizează astfel de sisteme în conformitate cu instrucțiunile de utilizare;
• Asigurarea unei supravegheri umane încredințate unor persoane fizice care au competența, formarea, autoritatea și sprijinul necesar;
• Asigurarea faptului că datele de intrare sunt relevante și suficient de reprezentative în raport cu scopul preconizat al sistemului de AI (dacă implementatorul are control asupra datelor respective);
• Păstrarea fișierelor de jurnalizare generate automat de respectivele sisteme de AI (logs), în măsura în care fișierele se află sub controlul implementatorilor, pentru o perioadă adecvată scopului preconizat al sistemului de AI, de cel puțin șase luni, dacă nu se prevede altfel în lege;
• Monitorizarea funcționării sistemului de AI pe baza instrucțiunilor de utilizare, precum și anumite obligații de notificare față de furnizor, importator, distribuitor sau autoritatea competentă.
De asemenea, Regulamentul AI prevede și anumite practici interzise în domeniul AI, printre care și utilizarea unor sisteme de AI pentru a deduce emoțiile unei persoane fizice în sfera locului de muncă.
2. GDPR în continuare un punct important pe agendă.
Implementarea cerințelor GDPR ar trebui să fie în continuare un punct important pe agenda organizațiilor care utilizează sisteme de AI care implică prelucrarea datelor cu caracter personal, GDPR fiind aplicabil alături de Regulamentul AI. Recent, autoritatea de protecție a datelor din UK (ICO) a publicat un material util cu recomandări pentru entitățile care desfășoară activități de recrutare cu utilizarea sistemelor de AI (Instrumente AI în recrutare. Raportul rezultatelor auditului – Noiembrie 2024).
Astfel, pe lângă obligațiile prevăzute de Regulamentul AI, înainte de implementarea unui sistem de AI, angajatorii ar trebui să aibă în vedere și măsurile necesare pentru conformarea cu GDPR, cum ar fi:
• Stabilirea clară a scopurilor și temeiurilor pentru datele prelucrate prin intermediul sistemului de AI. ICO menționează de exemplu ca posibile temeiuri consimțământul sau interesul legitim, însă acesta va trebui determinat de la caz la caz, ținând cont și de posibila calificare a activității ca proces decizional individual automatizat în sensul GDPR;
De asemenea, este important ca organizația să înțeleagă modul de funcționare a sistemului de AI, pentru a putea interpreta și utiliza rezultatul în mod corespunzător, și să țină cont de cerința minimizării datelor prelucrate;
• Actualizarea notelor de informare a persoanelor vizate cu privire la prelucrarea datelor prin intermediul sistemelor de AI;
• Analiza relației cu furnizorul sistemului de AI din perspectiva rolurilor avute în activitatea de prelucrare (operator/persoană împuternicită) și documentarea acesteia, inclusiv din perspectiva garanțiilor de securitate a datelor;
De exemplu, ICO menționează că atunci când furnizorul AI utilizează datele personale primite de la mai mulți angajatori pentru a dezvolta, testa sau antrena un model central AI pe care să îl pună la dispoziția tuturor angajatorilor, ar putea fi considerat ca operator de date. În schimb, dacă furnizorul AI antrenează sistemul de AI sau algoritmul doar cu datele unui anumit angajator, și doar pentru uzul respectivului angajator, în baza unor instrucțiuni explicite, acesta ar putea acționa de fapt ca o persoană împuternicită în sensul GDPR.
• Dacă utilizarea sistemelor de AI implică monitorizarea angajaților pe baza interesului legitim, trebuie avute în vedere și cerințele prevăzute de Legea 190/2018 (de exemplu, posibilitatea de a demonstra că alte modalități mai puțin intruzive pentru atingerea scopului urmărit nu și-au dovedit anterior eficiența, întocmirea unei analize a interesului legitim, consultarea sindicatului sau a reprezentanților angajaților, durata limitată de stocare);
• Efectuarea unei evaluări a impactului asupra protecției datelor, atunci când utilizarea sistemelor de AI poate crea un risc ridicat față de persoanele vizate;
• Întocmirea unei politici interne de utilizare a sistemelor de AI poate fi de asemenea un instrument util care să ajute organizația în procesul de conformare.
De asemenea, este important ca organizația să înțeleagă modul de funcționare a sistemului de AI, pentru a putea interpreta și utiliza rezultatul în mod corespunzător, și să țină cont de cerința minimizării datelor prelucrate;
• Actualizarea notelor de informare a persoanelor vizate cu privire la prelucrarea datelor prin intermediul sistemelor de AI;
• Analiza relației cu furnizorul sistemului de AI din perspectiva rolurilor avute în activitatea de prelucrare (operator/persoană împuternicită) și documentarea acesteia, inclusiv din perspectiva garanțiilor de securitate a datelor;
De exemplu, ICO menționează că atunci când furnizorul AI utilizează datele personale primite de la mai mulți angajatori pentru a dezvolta, testa sau antrena un model central AI pe care să îl pună la dispoziția tuturor angajatorilor, ar putea fi considerat ca operator de date. În schimb, dacă furnizorul AI antrenează sistemul de AI sau algoritmul doar cu datele unui anumit angajator, și doar pentru uzul respectivului angajator, în baza unor instrucțiuni explicite, acesta ar putea acționa de fapt ca o persoană împuternicită în sensul GDPR.
• Dacă utilizarea sistemelor de AI implică monitorizarea angajaților pe baza interesului legitim, trebuie avute în vedere și cerințele prevăzute de Legea 190/2018 (de exemplu, posibilitatea de a demonstra că alte modalități mai puțin intruzive pentru atingerea scopului urmărit nu și-au dovedit anterior eficiența, întocmirea unei analize a interesului legitim, consultarea sindicatului sau a reprezentanților angajaților, durata limitată de stocare);
• Efectuarea unei evaluări a impactului asupra protecției datelor, atunci când utilizarea sistemelor de AI poate crea un risc ridicat față de persoanele vizate;
• Întocmirea unei politici interne de utilizare a sistemelor de AI poate fi de asemenea un instrument util care să ajute organizația în procesul de conformare.
În concluzie, implementarea sistemelor de inteligență artificială în contextul relațiilor de muncă necesită o abordare atentă și riguroasă din partea angajatorilor în calitatea acestora de implementatori și operatori, atât din perspectiva obligațiilor impuse de Regulamentul AI, cât și a celor legate de protecția datelor cu caracter personal.
| Publicitate pe BizLawyer? |
  |
| Articol 253 / 9286 | Următorul articol |
| Publicitate pe BizLawyer? |
                                    |
BREAKING NEWS
ESENTIAL
Solida Capital face prima tranzacție în România și anunță extinderea strategică pe piața din Europa Centrală și de Est | Cumpărătorul a fost asistat de Kinstellar, CMS a acordat consultanță vânzătorului pe aspecte fiscale și financiare, iar PNSA a fost alături de banca finanțatoare. Ce alți consultanți au fost implicați
Cum îi sprijină avocații GNP Guia Naghi și Partenerii pe clienții care solicită asistență în proiecte de obținere și implementare a ajutoarelor de stat și ce anume fac pentru a le spori șansele de succes | Manuela Guia (Managing Partner): „Considerăm că ar fi benefic să se acorde o atenție sporită industriilor cu potențial ridicat de creștere, cum ar fi tehnologiile verzi și digitalizarea. De asemenea, ar fi utilă o simplificare a procesului administrativ, pentru a facilita accesul mai rapid la finanțare și a reduce incertitudinea pentru investitori”
LegiTeam: CMS CAMERON MCKENNA NABARRO OLSWANG LLP SCP is looking for: Associate | Corporate and M&A Practice Group (2-4 years definitive ̸ qualified lawyer)
BizLawyer îi prezintă pe avocații care au devenit parteneri în ultimele runde de promovări | De vorbă cu Adina Vlaicu (Popescu & Asociații), un om statornic, serios, carismatic, atent la detalii și la nevoile clienților: ”Trebuie să fii mereu la curent cu schimbările legislative, să te specializezi în domeniile în plină dezvoltare și să anticipezi nevoile pieței. Networking-ul strategic și implicarea în dezbateri profesionale te ajută să rămâi relevant. Dar, mai presus de toate, trebuie să îți placă ceea ce faci – pasiunea este cea care te ține în joc pe termen lung”
Lista scurtă a finaliștilor “Chambers Europe Awards - 2025” | Cinci firme din România luptă pentru trofeu: CMS, NNDKP și ȚZA, prezențe constante la gala premiilor, Mușat & Asociații intră în competiție propulsată de activitatea intensă din ultimul an, iar Filip & Company este nominalizată pentru a patra oară consecutiv
Cum văd anul 2025 profesioniștii considerați Leading Lawyers de către ghidurile juridice internaționale | Azi, de vorbă cu Florian Nițu, Managing Partner PNSA, poziționat de Legal500 în categoria ‘Hall of Fame’ în practica de M&A: ”Cu excepția unor cataclisme geostrategice pe care nu le putem vedea și pe care noi, din România, nici nu le putem preveni, avem motive bune să fim optimiști. Resurse, Infrastructură, Energie, Tech și Food sunt cele cinci domenii în care vom vedea cu precădere investiții și tranzacții noi, în mod accelerat, dar coerent totuși, formând o nouă paradigmă de dezvoltare”
GNP Guia Naghi și Partenerii îl promovează pe Tudor NACEV ca Partener coordonator al practicii Regulatory Pharma și Achiziții Publice. El a asistat clienți importanți în proiecte de anvergură
LegiTeam: WH Simion & Partners is looking for a Senior Associate
Chambers Global 2025 | RTPR rămâne singura firmă de avocați listată pe prima poziție în ambele arii de practică analizate: Corporate ̸ M&A și Banking & Finance. Filip & Company și Schoenherr sunt în prima bandă în Corporate ̸ M&A. Firmele care au cei mai mulți avocați evidențiați sunt RTPR (9), Filip & Company (7), CMS (5) și Clifford Chance Badea (5)
Rising Stars | Bianca Bănățeanu, șef de promoție al seriei I a generației anului 2024 a decis să se îndrepte spre magistratură: ”Am ales să susțin probele de admitere la INM, după ce am oscilat de câteva ori între avocatură și magistratură. Sunt conștientă de responsabilitatea pe care o implică profesia de judecător, însă satisfacția pe care o simți atunci când știi că ai contribuit la înlăturarea unei situații de inechitate, la soluționarea unor probleme cu care oamenii se confruntă zi cu zi, mi se pare de neegalat”
Cum văd coordonatorii departamentelor juridice din companiile mari industriile în care activează și provocările anului 2025 | Monica Constantin, Legal & Corporate Affairs Director Bergenbier SA: ”Echipele noastre colaborează strâns pentru a preveni riscurile ce vin cu toate schimbările legislative. Vom continua acțiunile de conformare la modificările legislative și pe cele de prevenție. Menținem focusul pe strategia de sustenabilitate și continuăm să investim în dezvoltarea echipei”
Trei ofertanți intră în a doua rundă a vânzării Amethyst Healthcare, lanț paneuropean de radioterapie cu șase clinici în România. Goldman Sachs supraveghează tranzacția
Citeste pe SeeNews Digital Network
-
BizBanker
-
BizLeader
- in curand...
-
SeeNews
in curand...
