ZRP
Tuca Zbarcea & Asociatii

CMS | Navigating criminal liability risks for generative AI companies

23 Ianuarie 2025   |   CMS Romania

For more information on the risks of generative AI and how to mitigate these risks, contact your CMS client partner or these CMS experts: Mihai Jiganie-Serban and Anca Elena Toma.

 
 
AI generative technology has revolutionised industries, advancing content creation, automation, and innovation, but its rapid adoption introduces criminal liability risks for developers, providers, and users. For generative AI (gen-AI) companies operating in Romania and across multiple jurisdictions, understanding and mitigating these risks is crucial for avoiding legal exposure and fostering trust.

The following article highlights key criminal liability implications surrounding gen-AI in Romania and suggests strategies to ensure compliance and risk mitigation.

Key areas of criminal liability for gen-AI companies

Gen-AI tools, such as content creation platforms, can inadvertently facilitate illegal activities, raising concerns about corporate and individual criminal liability under Romanian and EU law. These risks include content-related offenses, cybercrime (e.g. cybersecurity breaches), intellectual property violations and data privacy breaches.


Gen-AI content and tools may be misused to create the following material that violates the Romanian Criminal Code:

►    Child exploitation material or unlawful pornography;
►    Incitement to violence, hate speech, or extremist propaganda;
►    Defamatory content or fake news;
►    Phishing emails, deepfake videos, or malicious software;
►    Fake identities or forged documents;
►    Automated financial fraud schemes.

Conducting rigorous risk assessments and implementing safeguards can significantly reduce misuse potential.

Jurisdictional challenges in criminal enforcement

Gen-AI companies operate globally, but laws governing AI-related criminal activities vary across jurisdictions, creating the following challenges, among others:

→    Jurisdictional conflicts: An AI tool may violate laws in one country while remaining compliant in another.
→    Extraterritorial reach: Increasingly, countries are enforcing criminal laws extraterritorially to address cross-border cybercrime and content offenses (e.g. EU’s Digital Services Act, US federal cybercrime laws).
→    Regulatory uncertainty: Rapid AI adoption outpaces legislative developments, leaving room for ambiguity regarding potential criminal liability.

The Digital Services Act (DSA) introduces "safe harbour" rules that provide liability exemptions for intermediaries, provided they act expeditiously to remove or disable access to illegal content upon learning of its existence. These provisions highlight the importance of maintaining transparent content moderation systems and responding swiftly to flagged violations.

Legal professionals specialising in multi-jurisdictional compliance may assist in aligning operations with applicable laws and regulations.

Corporate criminal liability for Gen-AI companies

In almost all jurisdictions, companies can be held criminally liable for offences committed through their platforms or by their representatives/employees if:

→    they fail to implement adequate measures to prevent illegal activities (e.g. lack of content moderation);
    senior management knowingly permits or ignores unlawful use of their technology.

Romanian law recognises corporate liability under Article 135 of the Criminal Code if offences occur during business operations. Companies may face charges for:

→    Negligence and recklessness: Failing to supervise AI systems that generate illegal content or facilitate crimes.
→    Complicity: Enabling or aiding criminal activities committed by end-users through the misuse of their tools, through insufficient oversight or deliberate inaction.

Recent allegations against a major social media platform for allowing its livestreaming feature to facilitate child exploitation demonstrate the severe consequences when systems are not monitored adequately. Such examples highlight the necessity for companies to prioritise robust oversight mechanisms and actively address risks associated with their technology.

To address these risks, companies should establish governance frameworks with clear accountability structures, adopt robust content moderation systems, and provide targeted training to senior management to ensure awareness of potential liabilities.

Conclusion

Gen-AI companies must navigate ever-evolving criminal liability risks by understanding their exposure, implementing safeguards, and collaborating with specialised legal counsels. Proactive compliance protects against legal repercussions while fostering trust and innovation. Legal experts play a critical role in identifying jurisdiction-specific obligations, crafting effective mitigation strategies, and providing representation during investigations or litigation. Obtaining guidance from professionals who are experienced in international criminal law and AI regulations ensures that a company’s compliance measures will be robust and practical, and will enable the company to mitigate future risks effectively while maintaining operational integrity and global competitiveness.

For more information on the risks of generative AI and how to mitigate these risks, contact your CMS client partner or these CMS experts: Mihai Jiganie-Serban and Anca Elena Toma.
 
 

PNSA

 
 

ARTICOLE PE ACEEASI TEMA

ARTICOLE DE ACELASI AUTOR


 

Ascunde Reclama
 
 

POSTEAZA UN COMENTARIU


Nume *
Email (nu va fi publicat) *
Comentariu *
Cod de securitate*







* campuri obligatorii


Articol 78 / 4493
 

Ascunde Reclama
 
BREAKING NEWS
ESENTIAL
NNDKP dezvoltă una dintre cele mai solide practici locale de Dreptul Mediului, cu mandate de impact în industrii cheie, consultanță sofisticată și reprezentare în litigii complexe, gestionate de o echipă specializată | Mădălina Vasile, coordonatoarea practicii: ”Oferirea de asistență personalizată, adaptată realităților juridice și identificarea unor soluții practice și fezabile pentru problemele clienților vor rămâne prioritare”
Schoenherr a asistat Hellman & Friedman în legătură cu investiția sa, alături de CVC, în Mehiläinen. Mădălina Neagu (partner) a coordonat echipa care a oferit consultanță juridică în România și Serbia
Exim Banca Românească participă la un credit sindicalizat de 110 mil. € atras de Moov Leasing. Filip & Company a asistat juridic băncile
Women Lawyers | Adela Nuță, Managing Associate BACIU PARTNERS, spune că un loc este modelat de oamenii care îl compun, la fel cum oamenii sunt influențați de spiritul locului. „Iar atunci când această dinamică este construită pe curaj, agilitate și dorința de a atinge excelența, profesia devine mai mult decât o carieră, devine o modalitate de a înțelege, influența și transforma realitatea din jur”
Filip & Company a asistat Amstar Management în vânzarea hotelurilor Duke Romană și Duke Armenească din București. Ioana Roman (partener) a coordonat echipa
Cum lucrează avocații firmei Țuca Zbârcea & Asociații în proiectele de obținere și implementare a ajutoarelor de stat și cum îi pot ajuta pe clienții care solicită asistență | Șansele unui proiect depind de caracteristicile sale intrinseci, de îndeplinirea criteriilor de eligibilitate și de corectitudinea cu care sunt colectate documentele necesare depunerii dosarului. De vorbă cu Raluca Vasilache (Partener) și Andreea Oprișan (Partener) despre pașii care trebuie urmați și aspectele sensibile de care companiile trebuie să țină cont
Women Lawyers | De vorbă cu Angela Porumb (Partener Mușat & Asociații), avocat o carieră de peste 20 de ani în avocatura de business, care a ales această firmă din dorința clară de a evolua: ”Pasul spre Mușat & Asociații a fost definitoriu pentru maturizarea și împlinirea mea ca avocat. Am avut în acest fel avantajul de a intra în dosare complexe, cu rezonanță juridică, cauze ce, dincolo de pregătirea teoretică, au implicat creativitate maximă și obligatoriu efort de echipă”
Răsturnare de situație: doar trei case locale de avocați rămân în topul global al celor mai bune 100 de firme implicate în arbitraje internaționale | Filip & Company intră în top, iar două firme cu un trecut bogat în domeniul arbitrajelor și prezență constantă în ghidurile de profil au părăsit clasamentul. ZRVP și LDDP rămân pilonii prezenței românești în GAR 100, ediția 2025
Women Lawyers | De vorbă cu Gabriela Neagu, Managing Associate la Băncilă, Diaconu și Asociații, avocatul care a construit de la zero practica de Banking & Finance a firmei: „Să ai șansa nu doar să faci parte dintr-o echipă, ci să o modelezi și să o dezvolți, este un proces care îți aduce atât satisfacție, cât și o responsabilitate reală”
Rundă de promovări în mai multe arii de practică în biroul Kinstellar din București. Magdalena Răducanu preia rolul de Partener, alți șase avocați fac un pas înainte în carieră | Victor Constantinescu (Managing Partner): ”Aceste promovări recente nu sunt doar etape importante în cariera colegilor noștri, ci și confirmare a abilității lor de leadership și a rolurilor esențiale în cadrul biroului nostru”
Women Lawyers | De vorbă cu Andreea Soare (Senior Associate - BSMP), avocat care spune că pentru a avea o carieră durabilă, este fundamental să fii cu adevărat pasionat de munca pe care o depui și dedicat îndeplinirii cu succes a mandatelor încredințate. ”Principalele avantaje ale apartenenței la această firmă sunt diversitatea proiectelor la care avem acces și oportunitățile de dezvoltare professională. Cultura deschisă și orientată spre colaborare permite un schimb constant de idei și soluții creative”
Filip & Company a asistat BT Pensii în preluarea fondului BRD Medio, care devine Pensia Mea Plus. Vânzătorii au lucrat cu avocații PNSA
 
Citeste pe SeeNews Digital Network
  • BizBanker

  • BizLeader

      in curand...
  • SeeNews

    in curand...