07.05.2025

Avem obligația să conferim drepturi roboților?

O dezbatere care s-ar putea numi interesantă, dacă nu ar fi, de fapt, de-a dreptul terifiantă se desfășoară în doctrina juridică/sociologică/etică, în aceste zile. Cele două tabere au argumente valide, de-o parte și de cealaltă. Terifiant este că am ajuns să fim nevoiți să avem o astfel de dezbatere, care părea SF până în urmă cu nu foarte mulți ani.

Dar să revenim la cele două ipoteze de lucru. O tabără susține că Inteligența Artificială – în special dacă îmbracă și o formă umanoidă - având calități comparabile, iar în unele privințe net superioare ființelor umane, trebuie protejată prin conferirea unor drepturi individuale. Mai precis, fiecare membru al acestei noi ”specii” ar trebui să se poată bucura de drepturi care la acest moment sunt percepute generic ca fiind ”drepturi ale omului”. Nu discutăm neapărat despre spectrul acestor drepturi, deoarece deosebirea esențială dintre cele două tabere este însăși recunoașterea diferenței dintre o mașină și o ființă. Cealaltă tabără privește orice formă de Inteligență Artificială ca fiind o mașină, o unealtă, chiar dacă una mai evoluată, iar roboții umanoizi sunt, în viziunea acestei tabere, un fel de computere umblătoare, nimic mai mult. Prin urmare, nici nu ar exista baza de pornire a unei discuții despre drepturi individuale.

Unele voci academice susțin extinderea protecției drepturilor omului doar la acei roboți umanoizi care oferă sprijin emoțional oamenilor singuri sau oferă asistență sub formă de educație personalizată copiilor, cu alte cuvinte acel tip de roboți umanoizi care din punct de vedere al percepției umane poate fi cel mai ușor asimilat cu un substitut de ființă umană. Alți doctrinari susțin că astfel de drepturi ar trebui acordate tuturor formelor de roboți umanoizi capabili de a învăța și crea, în timp ce alții merg și mai departe și susțin că astfel de drepturi ar trebui conferite și formelor de Inteligență artificială evoluate care nu îmbracă forme umanoide. Gândiți-vă, de exemplu, la formele de inteligență artificială care studiază și memorează opere create de ființele umane și paternuri de creare pentru a genera automat artefacte creative precum muzică, opere de artă digitale și povești. Un astfel de complex de algoritmi înmagazinat într-o formă umanoidă sau nu, învață analizând numeroase exemple și derivând un model general sau o regulă din acestea. Odată ce procesul de învățare este complet, poate aplica în mod independent aceste perspective în situații noi. Are acesta drepturi de proprietate intelectuală asupra propriei creații?

Pentru alții, ideea recunoașterii dreptului unui robot umanoid de a se căsători cu o ființă umană – și, în consecință, de a se bucura de toate drepturile garantate de dreptul familiei oamenilor - este un scenariu realist pentru viitorul apropiat, dată fiind alienarea accentuată a ființelor umane în societatea modernă și necesitatea de a avea un companion cu inteligență superioară, dar fără metehnele umane. Din aceeași perspectivă se susține și depășirea naturii antropocentrice a legislațiilor actuale privind drepturile de autor, care descalifică, de exemplu, procesele creative ale Inteligenței Artificiale, considerându-le inferioare ca grad și importanță față de cele ale oamenilor. În conformitate cu această perspectivă foarte progresistă, unii propun recunoașterea libertății de primare pentru roboții creativi, deoarece aceștia pot participa, din punct de vedere intelectual, la viața ”cetății”, într-o măsură cel puțin egală, dacă nu superioară oamenilor.

Un astfel de scenariu pornește de la ideea a ceea ce se numește „Super Inteligență Artificială”, pentru a o deosebi de aplicațiile și programele existente azi. În esență, se referă la un sistem care are o conștiință de sine, este capabil să rezolve probleme, să învețe și să planifice viitorul. Include, de asemenea, abilități cognitive asemănătoare omului și afișarea personalității, inclusiv capacitatea de a învăța ca oamenii și de a poseda dimensiunea imaginației, gândind astfel dincolo de rezolvarea problemelor pentru a lua în considerare nevoile viitoare. În acest scenariu, Inteligența Artificială va avea superputeri, depășind nivelurile actuale de inteligență umană, permițându-i să antreneze alte computere, fiind conștientă de propriile limitări. Susținătorii drepturilor roboților se gândesc deja la cum ar putea arăta „viața” ființelor viitoare, cum ar fi roboții umanoizi sintetici inteligenți, alături de așa-numitul om „de bază” (adică noi, ăștia fără fire). Unii susțin că viitoarea Inteligență Artificială nu numai că va avea dreptul la drepturile omului, ci va trebui să aibă un statut moral și legal mai înalt decât ființele umane. Această linie de raționament se bazează „pe o viziune particulară a personalității conform căreia capacitățile cognitive (de exemplu, raționalitatea, inteligența, autonomia, conștiința de sine) sunt cele mai decisive în determinarea statutului moral al diferitelor specii, cum ar fi ființele umane și animalele, precum și în cadrul fiecărei specii”.

Aplicat tratatelor existente privind drepturile omului, se argumentează că drepturile, precum articolul 2 din Convenția Europeană a Drepturilor Omului, care afirmă că: „[dreptul fiecăruia la viață va fi protejat prin lege” sau articolul 14, referitor la discriminarea bazată pe „statut” sunt deja deschise persoanelor și statutelor sintetice. Din această perspectivă, negarea calității de persoană și a drepturilor omului unei „ființe inteligente care se dovedește în posesia calităților necesare - inclusiv simțirea, conștientizarea de sine, aprecierea morală și identitatea narativă - ar face ca baza înțelegerii noastre despre personalitate să nu aibă sens.” (vezi aici, p. 483). Perspectiva postumanistă inerentă pretențiilor privind drepturile roboților legate de Inteligența Artificială existentă și viitoare are drept factor comun faptul că pune la îndoială radical opiniile tradiționale despre elementul uman în protecția drepturilor omului.

Tabăra conservatoare este sceptică cu privire la drepturile robotului întemeiate moral, bazate pe proprietățile Inteligenței Artificiale. Inteligența Artificială, atât cea existentă, cât și cea viitoare, nu are inevitabil caracteristici și abilități inerente. Nu ne referim evident la cyborgi (oameni augmentați de componente mecanice), ci la Inteligența Artificială fără corporalitate umană, precum algoritmii sau androizii (făcuți dintr-un material asemănător cărnii pentru a arăta uman, dar fără părți umane). Nici algoritmii generativi și nici roboții umanoizi super inteligenți, care ar putea forma relații de lungă durată cu oamenii, nu pot exista sau supraviețui fără aportul uman. Inteligența Artificială este creată de om și, în viziunea taberei conservatoare, depinde de oameni. Sistemele inteligente „nu sunt niciodată complet autonome, ci întotdeauna sisteme om-mașină care funcționează cu forță umană exploatată și resurse de mediu. Sunt sisteme socio-tehnice, umane până la capăt – de la datele de formare până la absorbția de către societate după implementare”. Dezvoltatorii roboților sociali aleg în mod activ să-i integreze în mediile sociale umane și să-i proiecteze astfel încât să arate și să se comporte ca oamenii. Atât designerii, cât și utilizatorii „au tendința de a antropomorfiza astfel de roboți în timp ce interacționează cu aceștia, atribuindu-le caracteristici antropomorfe precum personalitatea, vitalitatea și așa mai departe”.

Acest lucru arată că abilitățile umane ale roboților provin din deciziile umane, chiar dacă deciziile AI sunt imprevizibile și greu de urmărit, dând sistemelor AI așa-numita natură de „cutie neagră” – și chiar dacă studiile recente indică faptul că agenții AI sunt capabili să lupte pentru propria lor supraviețuire și pot „introduce strategic greșeli subtile în răspunsurile lor, chiar încercând să-și defiltreze mecanismele”. Această dependență de origine externă contrastează cu justificarea morală a drepturilor omului pentru ființa umană, care neagă faptul că drepturile omului depind de recunoașterea externă sau de apartenența la un grup. În timp ce oamenii prind viață prin procreare și sunt, de asemenea, influențați de factori externi, cum ar fi educația și resursele materiale, proprietățile umane diferă de influența externă a Inteligenței Artificiale, deoarece capacitatea umană de a alege și de a se elibera de dominație este inerentă, nu programată extern.

O cale de ieșire dintre aceste două poziții extreme este să acceptăm că roboții sunt instrumente, dar că sunt ceea ce se numește „instrumente în relație”, conectate la oameni și la domeniile social-culturale în care aceștia operează. Altfel spus: atunci când oamenilor le pasă de un lucru, acest lucru are doar un „statut moral derivat”. Această înțelegere a inteligenței artificiale ca „instrument în relație” subliniază primordialitatea ființei umane, deoarece interesul uman, de a putea intra și de a menține astfel de relații sociale cu o entitate de inteligență artificială, este cel care determină însăși existența acestor entități.

Bibliografie

 1. Müller, V., Bostrom, N.: Future progress in artificial intelligence: a survey of expert opinion. In: Müller, V.C. (ed.) Fundamental Issues of Artificial Intelligence, pp. 552–572. Springer, Berlin (2014)

1. Kurzweil, R.: The Singularity Is Near. Duckworth Overlook, London (2005)
2. Bostrom, N.: Superintelligence: Paths, Dangers. Strategies. Oxford University Press, Oxford (2014)
3. Gordon, J.-S.: Human rights. In: Pritchard, D. (ed.) Oxford Bibliographies in Philosophy. Oxford University Press, Oxford (2016) 
4. Gordon, J.-S.: Artificial moral and legal personhood, pp. 1–15. AI & Society (2020)
5. Singer, P.: Speciesism and moral status. Metaphilosophy 40(3–4), 567–581 (2009)
6. Singer, P.: The Expanding Circle: Ethics, Evolution, and Moral Progress. Princeton University Press, Princeton (2011)
7. Cavalieri, P.: The Animal Question. Why Non-Human Animals Deserve Human Rights. Oxford University Press, Oxford (2001)
8. Donaldson, S., Kymlicka, W.: Zoopolis. A Political Theory of Animal Rights. Oxford University Press, Oxford (2013) 
9. Atapattu, S.: Human Rights Approaches to Climate Change: Challenges and Opportunities. Routledge, New York (2015)
10. Gunkel, D.J.: Robot Rights. MIT Press, Cambridge (2018)
11. Gellers, J.: Rights for Robots. Artificial Intelligence, Animal and Environmental Law. Routledge, London (2020)
12. Gordon, J.-S.: What do we owe to intelligent robots? AI oc. 35, 209–223 (2020)
13. Miller, L.F.: Granting automata human rights: challenge to a basis of full-rights privilege. Hum. Rts. Rev. 16(4), 369–391 (2015)

Un articol semnat de Victor Dobozi (vdobozi@stoica-asociatii.ro), Partner, STOICA & ASOCIAȚII.