Despre viitorul profesiilor juridice, în contextul principalelor provocări ale următoarelor două decenii (II)

II. Ingineria genetică și Inteligența artificială

După ce în prima parte am examinat perechea formată din pandemie și post-adevăr¹, să trecem în continuare la „tandemul”: Inginerie genetică-Inteligență artificială. Având în vedere că sunt două sintagme ce nu intră în „repertoriul” uzual al juristului cred că este potrivit să fac scurte precizări prealabile cu privire la sensul pe care îl voi da acestora. Astfel, conștient de faptul că, în lumea științifică, cele două sintagme pot avea înțelesuri sensibil diferite, de la un autor la altul, nu am fost preocupat de găsirea unor definiții cât mai  exacte din punct de vedere tehnic, ci am ales acele semnificații uzuale, cu un grad ridicat de generalitate, mai adecvate unei dezbateri juridice.

Din perspectiva anunțată, sintagma inginerie genetică va fi utilizată cu sensul de: „metodă prin care se modifică genomul natural al unui organism prin adăugarea de fragmente noi de ADN. În acest fel se creează organisme reprogramate genetic al căror genom se transmite stabil la sute de generații viitoare și care nu rezultă în urma procesului de selecție naturală”². Mai precizez că ingineria genetică este considerată a fi elementul de bază al biotehnologiei moderne³, ceea ce înseamnă că referirile la această din urmă noțiune pot fi valabile și cu privire la cea dintâi, prin relația de la întreg la parte.

Din aceeași perspectivă, prin Inteligență Artificială (IA) se va înțelege „capacitatea mașinilor sau a computerelor de a îndeplini atribuții și sarcini asociate în mod obișnuit cu inteligența umană”⁴. Este important de adăugat că IA reprezintă una dintre axele strategice de cercetare din domeniul tehnologiei informației (IT)⁵, altfel spus, este un subdomeniu al acesteia. Prin urmare, referirile la IT pot fi valabile și pentru IA, prin relația de la întreg la parte.

Cu semnificațiile anterior enunțate, cele două provocări asupra cărora mă voi opri în cele ce urmează, Ingineria genetică și Inteligența artificială au, în pofida aparențelor, mai multe puncte de legătură. Există convingerea că, „în tandem”, aceste două provocări (sau domeniile mai largi din care fac parte) vor aduce în viitorul apropiat modificări economice și sociale pe care nici măcar nu le putem bănui. Dar asta nu este totul. „Și mai important, cele două revoluții, a tehnologiei informației și a biotehnologiei, ar putea restructura nu numai economii și societăți, ci și corpul și mintea noastră. În trecut, noi, oamenii, am învățat să controlăm lumea exterioară, dar am avut un control destul de limitat asupra lumii noastre interioare. Știam să construim un dig și să împiedicăm ieșirea din albie a unui râu, dar nu știam să oprim îmbătrânirea corpului. Știam să proiectăm un sistem de irigații, dar habar nu aveam să proiectăm un creier. Dacă țânțarii ne bâzâiau la ureche și ne tulburau somnul, știam cum să ucidem țânțarii; dar, dacă un gând nu ne dădea pace și nu ne lăsa să dormim noaptea, cei mai mulți dintre noi nu știau cum să omoare gândul. Revoluțiile din biotehnologie și tehnologia informației ne vor oferi controlul asupra lumii noastre interioare și ne vor permite să concepem și să creăm viață. Vom învăța să  proiectăm creiere, să prelungim viața și să ucidem gânduri după bunul nostru plac. Nimeni nu știe care vor fi consecințele”⁶. Această imagine a viitorului, deosebit de plastică, desprinsă parcă dintr-un roman S.F., devine din ce în ce mai credibilă în ochii multor savanți. Sigur, așa cum spunea autorul citat, nimeni nu poate să prevadă consecințele unei astfel de evoluții, mai ales pe termen lung. Suntem însă obligați să încercăm să anticipăm, cel puțin pe termen scurt (următorii douăzeci de ani), cum anume vor fi influențate profesiile juridice de dezvoltarea rapidă a cunoștințelor și practicilor în cele două domenii. Ca și în cazul primei perechi analizate (pandemie – post-adevăr), trebuie să ținem cont că și componentele acestei a doua perechi de provocări, ingineria genetică (a) și inteligența artificială (b) au un pronunțat caracter global și ele nu pot fi înțelese decât în această dimensiune.

---

Descoperă oportunitățile de recrutare de pe LegiTeam! GRATUIT.

---

a) Ingineria genetică în sensul precizat anterior are o istorie relativ scurtă, dacă ne raportăm la istoria științei, și infinitezimal de scurtă, dacă ne raportăm la istoria genei în sine, care se confundă cu cea a „supei primitive, despre care biologii și chimiștii cred că ar fi constituit oceanul planetar acum trei până la patru miliarde de ani”⁷.

În acea „supă”, la un moment dat, din pură întâmplare, s-a format „replicatorul”, „o moleculă cu totul remarcabilă (...) care avea extraordinara proprietate de a fi capabilă să creeze propriile sale copii”⁸. Cum echivalentul modern al primului replicator este reprezentat de moleculele de ADN⁹, iar gena, înțeleasă ca unitate moleculară a eredității în organismele vii, este compusă „dintr-o secvență de ADN”¹⁰, se poate afirma că gena își are originea în supa primitivă sus amintită. Pornite acum patru miliarde de ani, unele dintre acele molecule auto-copiatoare au ajuns în zilele noastre. Replicatorii care au supraviețuit au fost aceia care și-au construit mașini de supraviețuire, în care să trăiască: oamenii, animalele, plantele, bacteriile și virusurile¹¹. „Au străbătut o cale lungă acești replicatori. Acum merg mai departe sub numele de gene, iar noi suntem mașinile lor de supraviețuire”¹². De unde atâta vitalitate într-o „biată” moleculă? Caracterul său „egoist” pare a fi cheia succesului. „ Ce este gena egoistă? Nu este numai o porțiune fizică distinctă de ADN. Ca și în supa primitivă, ea reprezintă toate replicile unei anumite porțiuni de ADN, răspândite de-a lungul și de-a latul lumii. (...) ce încearcă să facă o genă egoistă? Ei bine, încearcă să se înmulțească în fondul genetic. În esență, ea face acest lucru dând ajutor la programarea corpurilor în care se găsește, pentru ca acestea să supraviețuiască și să se reproducă”¹³. Pe scurt, printr-un „egoism” extrem de sofisticat¹⁴, unele gene  se perpetuează în mod implacabil în lumea vie, fiind stăpânele propriului lor destin, dar și al mașinilor în care „au ales” să supraviețuiască.    

În cazul ființei umane, această „tiranie” a genei este atenuată de influența echivalentului ei cultural: mema. „Transmiterea culturală este analoagă cu transmiterea genetică prin aceea că, deși în fond conservatoare, poate să dea naștere unei forme de evoluție”.¹⁵ Mema, ca replicator, este acea creație culturală (în sens foarte larg: de la credință la știință, trecând prin artă sau modă) care are  capacitatea de a se propaga, de a se transmite „de la creier la creier”¹⁶. O metodă științifică este un bun exemplu de memă. Ne putem astfel reîntoarce la subiectul inițial, ingineria genetică, „o memă ce se ocupă de genă”.

Metoda reprezentată de ingineria genetică este o creație colectivă la care s-a ajuns treptat, prin contribuția mai multor generații de savanți în domeniul biotehnologiei. Progresul înregistrat în înțelegerea și manipularea genelor a dus, inevitabil, la ideea manipulării genomului (totalitatea informației genetice din organism) ceea ce schimbă total „filosofia” intervenției genetice, mai ales dacă ne gândim la aplicarea acesteia în cazul genomului uman: „Manipularea genelor înseamnă un lucru, dar manipularea genomurilor înseamnă cu totul altceva. În anii 80-90 ai secolului trecut, tehnologia de secvențiere a ADN-ului și de clonare genetică a permis oamenilor de știință să înțeleagă și să manipuleze genele și să controleze astfel biologia celulelor cu o dexteritate extraordinară. Dar manipularea genomurilor în contextul lor nativ, mai ales în celulele embrionare sau germinale, deschide poarta către o tehnologie mult mai puternică. Ceea ce este în joc nu mai este o celulă, ci un organism-noi înșine”¹⁷. Sunt oameni de știință care consideră că din punct de vedere tehnic există în prezent toate „ingredientele” necesare pentru a ajunge, „aproape fără efort, la oameni modificați genetic”¹⁸. Singura reținere în angajarea într-o astfel de „aventură” o au tot oamenii de știință care au înțeles că nu pot anticipa în întregime consecințele ei biologice și morale. Imaginându-ne o lume în care tehnologia deja existentă ar fi aplicată în practică am putea avea următoarea descriere: „ Este o lume locuită de previețuitori  și post-oameni: femei și bărbați care au fost testați pentru vulnerabilități genetice sau au fost creați cu anumite înclinații genetice modificate. S-ar putea ca bolile să dispară rând pe rând, dar tot la fel ar putea să dispară și identitatea. S-ar putea să fie mai puțină supărare, dar și tandrețea să fie la fel de puțină. Putem șterge traumele, dar la fel de bine putem șterge și istoria. Mutanții ar putea fi eliminați, dar eliminată va fi și variația umană. Infirmitățile ar putea să dispară, dar la fel și vulnerabilitatea. Hazardul va putea fi diminuat, dar în mod inevitabil va fi diminuată și posibilitatea de alegere”¹⁹. Dar, oricâte griji ne-am face și oricât de conștienți am fi de pericolele ce ne pândesc, procesul este ireversibil. Orice descoperire științifică aplicabilă în practică, va fi aplicată, mai devreme sau mai târziu (povestea bombei atomice este doar un exemplu în acest sens). De fapt, în realitate, nici nu știm dacă primul om „post-genomic” nu s-a născut deja²⁰.

Nu am luat în discuție problemele legate de impactul actual al biotehnologiei, în general, sau al geneticii medicale, în particular, asupra Dreptului, deoarece aceste probleme, deja extrem de complicate, sunt pe larg dezbătute în doctrină. Am trecut în mod intenționat direct la „nivelul următor”- modificarea genomului uman - pentru că este exemplul cel mai șocant al schimbărilor ce vor urma. În paranteză fie spus, dacă cineva se gândește la art. 13 din Convenția de la Oviedo²¹, este pe o pistă falsă. Eu mă refer la momentul în care toate actele normative interne și internaționale care interzic „modificări în genomul descendenților” sunt istorie. Aceasta se poate întâmpla, fie printr-o schimbare de paradigmă juridică în domeniu, la nivel internațional, fie prin constatarea unei realități post-factum ( se descoperă, pur și simplu, la un moment dat, că un număr mai mic ori mai mare de persoane au suferit deja modificări genomice transmisibile). Ambele ipoteze sunt posibile, având în vedere că: „ Dorința de a modifica genomul embrionului uman s-a transformat într-un fel de cursă a înarmărilor intercontinentală”²². 

Este evident că dezvoltarea aplicațiilor din domeniul biotehnologiei, în general, și al ingineriei genetice, în particular, vor avea un impact important și asupra profesiilor juridice. Am convingerea că multe dintre problemele „punctuale” ce se vor ivi sunt, în acest moment, imposibil de anticipat. În același timp, cred că este rezonabil să apreciem că, în linii generale, impactul se va manifesta pe cele două mari paliere ale „tărâmului” juridic: activitatea de legiferare și cea de aplicare a legii. În ambele activități va fi nevoie de oameni ai dreptului care să priceapă fenomenul, să aibă o reprezentare cât mai corectă a acestuia. Ei vor trebui să iasă puțin din „bula juridică” în care se închid, de regulă, și să încerce să-și lărgească orizontul cunoașterii și spre acest domeniu al geneticii. Sigur, juriștii vor avea sprijinul specialiștilor dar, ca să înțeleagă „limbajul” acestora, vor avea nevoie, cel puțin, de un set minim de cunoștințe în domeniu. Nu va fi simplu pentru cei care, înainte de intrarea la Facultatea de Drept, au auzit doar povestea coastei lui Adam, fără să audă și povestea lui Darwin dar, dacă există dorința de cunoaștere, lucrurile se pot îndrepta. Și ele trebuie să se îndrepte, pentru că dacă nu înțelegem cine suntem și cum am evoluat că să ajungem ce suntem azi, sigur nu vom ști cum să construim și să aplicăm legi pentru post-oamenii de mâine, despre care vorbea un autor citat mai sus.

►   3P, un „virus” reactivat, care amenință sănătatea justiției penale

           ►   Despre viitorul profesiilor juridice, în contextul principalelor provocări ale următoarelor două decenii

b) Inteligența artificială (nebiologică), în sensul amintit mai sus, există de multă vreme printre noi în computere, roboți, mașini. IA este în spatele: aplicațiilor cu care jucăm șah, go, sau alte jocuri; recomandărilor pe care ni le fac magazinele online având în vedere cumpărăturile anterioare; postărilor și reclamelor care ne apar pe rețelele de socializare, după analiza preferințelor noastre; autovehiculelor fără șofer etc. Inteligența artificială a intrat deja și în domeniul justiției: în Estonia, cele mai simple procese civile, cu miză de sub 6.400 de euro, sunt decise de un sistem de inteligență artificială. Anual, 30.000 de astfel de spețe sunt judecate de un robot cu o interfață umană prealabilă;²³ în Statele Unite, diferite software-uri sunt utilizate pentru a „identifica” minorii cu risc de delincvență sau pentru a prezice riscul de recidivă în cazul persoanelor ce urmează a fi eliberate condiționat (sigur, aceste programe au fost criticate deoarece pot da erori dar, ele există)²⁴. Pot fi date și alte exemplele de acest gen; în principiu, toate se referă la utilizarea a ceea ce specialiștii numesc inteligență artificială slabă, sau îngustă (limitată). Marea dezbatere actuală în rândul specialiștilor în IA se referă la „nivelul următor”, respectiv la inteligența artificială generală (IAG), cea care are capacitatea de a îndeplini orice sarcină cognitivă, cel puțin la fel de bine ca oamenii sau, la un moment dat, chiar mai bine. Controversele sunt extrem de aprinse în acest domeniu, iar opiniile variază între ideea că IAG nu poate să apară într-un viitor previzibil și ideea că acest nivel se va atinge în următoarele decenii²⁵. Argumentele aduse de diferiții „combatanți” nu au relevanță în acest context. Ceea ce merită a fi observat este faptul că savanți de prestigiu nu exclud apariția unei inteligențe artificiale de nivel uman în următoarele decenii²⁶, precum și faptul că acești oameni de știință, nejuriști, își pun probleme extrem de serioase cu privire la impactul IA asupra elaborării și aplicării legii. Cred că este important să cunoaștem această viziune care vine din afara sistemului juridic deoarece este de presupus că noi, „sclavii” sistemului, avem o abordare subiectivă și inevitabil conservatoare asupra problemei în cauză, deoarece nu ne dorim să fim înlocuiți de roboți. Iată câteva exemple despre cum vede un specialist în IA, impactul acesteia asupra legii și aplicării ei:

În privința procesului legislativ, după cum era de anticipat, se pune chiar problema apariției robolegiuitorului: „ Există un larg consens cu privire la faptul că legile noastre trebuie să evolueze pentru a ține ritmul cu tehnologia. De exemplu, cei doi programatori care au creat viermele ILOVEYOU, provocând pagube de miliarde de dolari, au fost achitați de toate acuzațiile pentru că în Filipine nu existau pe atunci legi în privința malware-ului. De când ritmul progresului tehnologic s-a accelerat, legile trebuie actualizate și mai rapid, căci au tendința să fie defazate. Angajarea tot mai multor informaticieni experți în învățământul juridic și în guvernare  ar fi probabil o soluție bună. Ar trebui însă oare să apară sisteme de luare a deciziilor bazate pe IA pentru votanți și legiuitori, urmate de robolegiuitori în toată puterea cuvântului”²⁷. Autorul nu oferă un răspuns la întrebare dar subliniază, prin diferite exemple, cât de greu va fi de stabilit granița dintre justiție și confidențialitate, dintre protejarea societății și protejarea libertății personale. O „controversă captivantă” este legată chiar de reglementarea cercetării în domeniul IA. Trebuie aceasta încurajată, sau trebuie să i se aducă unele îngrădiri (ceea ce ar duce, exact la aceeași problemă din ingineria genetică: „dacă nu o facem noi, o vor face alții”). În fine, o altă controversă este legată de automobilele care se conduc singure. Se știe că acestea au produs deja accidente și s-a pus problema răspunderii, civile sau penale. În acest context se naște întrebarea: pot avea aceste automobile o asigurare proprie? Dacă da, atunci pot avea și bani sau proprietăți? „Dacă acorzi mașinilor dreptul la proprietate, le-ai acorda și dreptul de a vota”²⁸?

În privința aplicării legii - ați ghicit - este pusă în discuție apariția robojudecătorilor: „ Ce îți vine în minte când te gândești la sistemul juridic din țara ta? Termene lungi, costuri ridicate și, uneori, nedreptate – și nu ești singurul. N-ar fi oare minunat dacă primele cuvinte care ți-ar veni în minte ar fi eficiență și corectitudine? Din moment ce procesul juridic poate fi privit în mod abstract ca un calcul, introducând informații despre dovezi și legi și extrăgând o decizie, unii visează să-l automatizeze complet cu robojudecători: sisteme IA care aplică neobosit aceleași standarde juridice înalte la orice hotărâre judecătorească, fără a cădea pradă erorilor umane cum sunt părtinirea, oboseala și ignorarea celor mai recente cunoștințe tehnice”²⁹. În mod obiectiv, autorul pune în balanță avantajele și dezavantajele unui astfel de sistem. Printre avantaje, se estimează că acesta ar putea garanta o adevărată egalitate în fața legii, o totală imparțialitate și transparență. În plus: „Robojudecătorii ar putea elimina și preferințele umane accidentale, neintenționate. De pildă un controversat studiu asupra judecătorilor israelieni afirma că aceștia dau verdicte semnificativ mai aspre atunci când le este foame: dacă imediat după micul dejun refuză 35% din cererile de eliberare condiționată, chiar înainte de prânz ei refuză 85%”³⁰. Printre neajunsuri se enumeră posibilitatea ca aceste sisteme să aibă bug-uri (erori de programare) sau să fie victimele hackerilor. Mai mult, există pericolul ca soluțiile, deși corecte pe fond, să fie neinteligibile pentru părți. În sfârșit, există riscul unui „subiectivism” statistic: „Ce se întâmplă însă dacă sistemul găsește că recidivismul e corelat statistic cu sexul sau rasa deținutului – ar fi considerat un robojudecător sexist sau rasist care trebuie reprogramat? Un studiu din 2016 susține că software-ul folosit în Statele Unite pentru predicția recidivismului îi defavoriza pe afro-americani și a contribuit la sentințe nedrepte”³¹. Iată doar o parte din multele aspecte controversate legate de subiect. „Acestea sunt aspecte importante care trebuie analizate și discutate pentru a ne asigura că IA rămâne benefică. Nu suntem puși în fața unei hotărâri de tipul totul-sau-nimic în privința robojudecătorilor, ci ar trebui să hotărâm în ce măsură și în ce ritm vrem să folosim IA în sistemul nostru juridic. Vrem ca judecătorii umani să fie ajutați de sisteme de decizie bazate pe IA, la fel ca medicii de mâine? Vrem să mergem mai departe și să avem decizii ale robojudecătorilor, iar apelul să fie lăsat în seama judecătorilor umani, sau vrem să mergem până la capăt, dând mașinilor ultimul cuvânt chiar și în cazul pedepsei cu moartea”³²? Dar nu numai activitatea magistraților riscă „intruziuni” din partea IA. Juriștii în general sunt „amenințați”, inclusiv avocații. Într-un context mai larg, privind meserii ce necesită o bună intuiție, se apreciază că și avocatul poate fi „depășit” de IA: „ Mult lăudata intuiție omenească este în realitate recunoaștere de tipare. Șoferii, bancherii și avocații buni nu au intuiții magice legate de trafic, de investiții sau de negocieri – mai curând, identificând tiparele recurente, observă și încearcă să evite pietonii neatenți, debitorii inepți și escrocii mincinoși. De asemenea, s-a dovedit că algoritmii biochimici ai creierului uman nu sunt câtuși de puțin perfecți (...). Nu e de mirare că până și șoferii, bancherii și avocații buni mai fac uneori greșeli stupide. Asta înseamnă că IA îi poate întrece pe oameni chiar și în privința sarcinilor care necesită, chipurile, intuiție (...). IA poate îndeplini mai bine îndeosebi sarcinile care necesită intuiții despre alte persoane. În numeroase domenii de activitate – cum ar fi conducerea unui vehicul pe o stradă plină de pietoni, acordarea unor împrumuturi solicitate de necunoscuți și negocierea unei tranzacții – e nevoie să apreciezi corect emoțiile și dorințele altor persoane (...). Un șofer care anticipă intențiile unui pieton, un bancher care evaluează credibilitatea unui potențial debitor și un avocat care analizează atmosfera de la masa negocierilor nu se bazează pe vrăjitorie. Mai curând, fără ca ei să știe, creierele lor identifică tiparele biochimice analizând expresiile faciale, tonalitățile vocilor, mișcările mâinilor și chiar mirosurile corporale. O IA dotată cu senzori potriviți ar putea face toate astea cu mult mai multă acuratețe și precizie decât un om”³³.

Iată cum sunt văzute, „din afară”, multiplele aspecte ale posibilei influențe a IA asupra profesiilor juridice. Firește, așa cum spunea un autor citat mai sus, aceste aspecte trebuie analizate și discutate pentru a ne asigura că IA rămâne benefică. Aș adăuga că aceste aspecte trebuie, și vor fi, negociate. Dar, la „masa” negocierilor trebuie să stea și juriștii, singurii capabili să înțeleagă dreptul, ca fenomen complex al vieții sociale. Or, pentru a sta la o astfel de masă, pe lângă cunoștințele solide legate de propriul domeniu, juriștii trebuie să aibă o reprezentare cât mai corectă despre domeniul general al tehnologiei informației precum și despre cel special al inteligenței artificiale.

Am „abuzat” în cele de mai sus de citate preluate din lucrările unor reputați oameni de știință și de trimiteri la acele lucrări, pentru a accentua faptul că nu pun în discuție scenarii S.F. Sunt probleme legate de prezentul nostru și de un viitor care este mult mai apropiat decât am fi tentați să credem...

Rezumând și combinând constatările legate de fiecare dintre cele patru provocări examinate am putea încerca să ajungem la câteva concluzii de ordin general: Pandemia ne-a „împins” deja spre digitalizare și ne „sugerează” un viitor cu mai puțini juriști, mai adaptabili la schimbările legislative, mai performanți în domeniul tehnologiei informației. Inteligența artificială va accentua tendința de restrângere a „pieței de muncă” în domeniul dreptului, iar acest proces va trebui „controlat” de juriști, nu doar mai performanți în domeniul IT, ci și capabili să înțeleagă avantajele și pericolele IA. Post-adevărul, mai exact lupta contra acestuia, va face ca profilul juristului performant al următoarelor decenii să implice o cultură juridică solidă având la bază o cultură generală consistentă, „impermeabilă” la minciunile construite. Ingineria genetică ne arată că în cadrul acelei culturi generale consistente de care aminteam mai sus, juristul trebuie să „redescopere” perspectiva evoluționistă, pentru că, dacă nu înțelegem cine suntem și cum am evoluat că să ajungem ce suntem azi, sigur nu vom ști cum să construim și să aplicăm legi pentru „mai complicații” oameni de mâine.

Prin urmare este foarte probabil ca profesiile juridice să necesite reconfigurări importante în ceea ce privește formarea, recrutarea și pregătirea continuă. În același timp, trebuie spus că aceste provocări aduc „la pachet” nu numai „pericole” ci și oportunități fără precedent. Trebuie să avem în permanență „mintea deschisă” pentru a ne spori capacitatea de adaptare.

În final aș reaminti că provocările în discuție au un pronunțat caracter global și ele nu pot fi înțelese decât în această dimensiune. Din această perspectivă este bine de luat în calcul faptul că schimbările preconizate se vor produce independent de „ritmul plaiului mioritic”. Mai neacademic spus: chiar dacă noi ne vom „încăpățâna” ca în unele domenii să rămânem în evul mediu, așa cum internetul a „dat buzna” peste cei cu closetul în curte, tot așa aceste provocări vor veni peste noi ca un „tăvălug”, fără să „bată la ușă”.

---

1.   http://www.bizlawyer.ro/stiri/interviuri-opinii/despre-viitorul-profesiilor-juridice-in-contextul-principalelor-provocari-ale-urmatoarelor-doua-decenii
2.  https://www.stiintaonline.ro/ce-este-ingineria-genetica/
3.  https://www.viata-medicala.ro/na/p-pastila-de-biotehnologie-by-amgen-ingineria-genetica-elementul-de-baza-al-biotehnologiei-moderne-11575
4.  https://gotech.world/inteligenta-artificiala-definitie-tipuri-de-ai-cum-invata-si-ce-aplicatii-are/  
5.  https://www.etsmtl.ca/Recherche/Recherche-et-innovation/Technologies-information-et-communications
6.  Y.N. Harari, 21 de lecții pentru secolul XXI, Ed. Polirom, 2018, p. 20.
7.  R. Dawkins, Gena egoistă, Ed. Publica, 2013, p. 55.
8.  Idem p. 56.
9.  Idem p. 57.
10.  S. Mukherjee, Gena. O istorie fascinantă, Ed. ALL, 2018, p. 470. Mai extins: „Genă = Unitate a moștenirii ereditare, compusă în mod normal dintr-o secvență de ADN care codifică o proteină sau un lanț de ARN (în cazuri speciale, genele pot fi transportate sub formă de ARN).
11.  R. Dawkins, p. 62 și 65.
12.  Idem, p. 63.
13.  Idem, p. 167.
14.  Pentru a înțelege corect „epitetul” egoist asociat genei, ar trebui consultată întreaga lucrare a lui Dawkins citată anterior.
15.  R. Dawkins, p. 323.
16.  Idem, p. 328.
17.  S. Mukherjee, op. cit. p. 448.
18.  Idem, p. 449. Nu am considerat util în acest cadru să intru în detalii dar, la pagina citată, autorul indică etapele necesare pentru modificarea genomului uman, toate posibile cu ajutorul tehnologiei actuale.
19.  Idem, p. 463.
20.  În acest sens a se vedea Idem, p. 452.
21.  Art. 13. „Intervenții asupra genomului uman. O intervenție destinată să modifice genomul uman nu se poate face decât din motive preventive, diagnostice sau terapeutice și numai dacă nu are drept scop introducerea unei modificări în genomul descendenților”. Convenția Europeană din 4 aprilie 1997 pentru protecția drepturilor omului și a demnității ființei umane față de aplicațiile biologiei și medicinei, Convenția privind drepturile omului și biomedicina M.Of. nr. 103 din 28 februarie 2001, vezi: http://legislatie.just.ro/Public/DetaliiDocument/27007
22.  S. Mukherjee, op. cit. p. 452. Autorul face referire la diferența de standarde bioetice dintre savanții occidentali și cei asiatici și la temerea celor dintâi că, din această cauză, vor „pierde startul” în competiția privind modificarea genomului uman. În acest sens, autorul citează declarația sugestivă a unui comentator pe acest subiect:„ Dacă nu facem noi acest lucru, îl va face China”.
23.   https://www.juridice.ro/643353/estonia-procesele-civile-cu-miza-de-sub-6-400-euro-sunt-rezolvate-de-robot.html
24.  A se vedea în acest sens, spre exemplu, https://www.cnetfrance.fr/news/serons-nous-juges-demain-par-des-robots-juges-39896657.htm
25.  În sensul celor de mai sus și pentru mai multe amănunte a se vedea, M. Tegmark, Viața 3.0. Omul în epoca inteligenței artificiale, Ed. Humanitas, 2019, pp. 39-48. 26. Mă refer la autorul citat anterior, M. Tegmark, fizician, Profesor la Institutul Tehnologic din Massachusetts, dar și la alți oameni de știință la care acesta face trimitere în lucrarea mai sus citată.
27.  M. Tegmark, op. cit. p. 122.
28.  Idem, p. 125.
29.   Idem, p. 120.
30.  Idem, p. 121.
31.  Idem, p. 122.
32.  Ibidem.
33.   Y.N. Harari, op. cit. p. 34.