10. Osservazioni conclusive: temi di ricerca
La conclusione di questo breve progetto, è sulla distinzione tra il presente e il futuro dell’intelligenza artificiale e anche la necessità di regolamentazione.
Il primo versante di questa ricerca riguarda sul’attribuzione della responsabilità patrimoniale della IA per danni, e il secondo punto d’osservazioni, inquadra la personalità elettronica nell’alveo dell’idoneità ad un ampliamento della sfera giuridica.
Sembra che può essere tracciato un unico percorso, per quanto riguarda la stretta connessione tra i due punti di osservazione, così da elaborare nell’ambito di un unico status giuridico dei robot delle forme graduali di personalità elettronica, in base allo stadio di evoluzione e quindi di autonomia dalle intelligenze artificiali.
Nello sviluppo di questo percorso non deve, peraltro, adottarsi una visione antropocentrica, bensì devono aversi sempre ben presenti le peculiarità delle macchine candidate al riconoscimento dello suo status.
Lo scopo principale non deve essere appena l’ampliamento della sfera giuridica della macchina, ma l’offerta di una tutela per la controparte humana che tante volte entra in contatto con essa.
10.a) Il diritto: guida dela tecnologia
Il diritto deve regolare la tecnologia, così da condizionarne virtuosamente il funzionamento, ma anche assicurare che l’intervento delle regole giuridiche si concretizzi mediante modalità appropriate che non assumano i contorni di un controllo censorio.
La regolamentazione dell'IA costituisce, in ultima analisi, l’obiettivo cui deve tendere l’ordinamento giuridico al cospetto delle novità immesse dalle evoluzioni tecnologiche.
In questo senso si avverte l’interesse dei giuristi e la rilevanza del compito di definire regole appropriate, perchè l’intelligenza artificiale e le nuove tecnologie avranno un significativo impatto anche sulle regole del diritto privato. I vantaggi sarebbe la possibilità di limitare la responsabilità dei programmatori e degli utilizzatori dei servizi del nuovo potenziale soggetto al fine di promuovere ancora lo sviluppo tecnologico.
Il futuro soggetto, dotato di intelligenza artificiale, potrebbe essere sottoposto a regole che allo stato vigono per gli enti, e forse sarebbe possibile assicurare l’esistenza di una garanzia patrimoniale utile a far fronte a eventuali pretese risarcitorie di terzi.
10.b) Lo smart contract
Nel caso, per esempio dello smart contract in quanto tale non è dunque dotato di intelligenza artificiale e il procedimento automatizzato, allo stato, riguarda soltanto l’esecuzione e non la conclusione del contratto, ma la questione più significativa si pongono per gli smart contracts connessi alla tecnologia blockchain, o sia, le transazioni avvengono su piattaforme informatiche che prendono il posto degli intermediari e assicurano la corretta esecuzione del contratto, concluso attraverso l’incontro tra la proposta e l’accettazione, non possa più essere messa in discussione.
Chi compie una transazione su una piattaforma blockchain non conosce l’altro contraente, il suo affidamento concerne soltanto il funzionamento della piattaforma. In questo senso, si afferma che gli smart contracts sono self-executing.
In realtà, il procedimento non sempre è pienamente automatizzato poiché le informazioni rilevanti per l’esecuzione del contratto vengono fornite da un terzo che viene denominato oracle e l'affifidamento dei contraenti deve pertanto estendersi anche a quest’ultima figura.
Nonostante le incomprensioni e le incongruenze, gli smart contracts avranno un impatto significativo nel mercato, tuttavia, non corrisponde al vero che il codice si sostituirà al diritto; il diritto continuerà certamente ad essere applicabile.
Eventuali falle nei sistemi operativi potrebbero agevolare fraudolente manomissioni da parte di soggetti terzi, che richiederebbero l’applicazione delle norme sulla responsabilità.
Le procedure di esecuzione automatizzata possono comportare un aumento dell’effettività del diritto, con riguardo alle clausole abusive, un esempio sovente menzionato in dottrina riguarda la compensazione pecuniaria alla quale è tenuto il vettore aereo, in caso di ritardo o cancellazione del volo, ai sensi dell’art. 5, par. 3, del Regolamento CE n. 261/2004. Rendendo la tecnologia degli smart contracts obbligatoria per i vettori aerei sarebbe possibile assicurare ai consumatori gli indennizzi in via automatica.
Attualmente, in media solo il 5 per cento dei passeggeri esercita i propri diritti in caso di ritardo o cancellazione del volo. Gli smart contracts potrebbero avere un impatto significativo sui rapporti tra vettori aerei e passeggeri e incidere sulle modalità di erogazione dei servizi.
Da questo punto di vista, si teme che l’aumento di effettività del diritto possa rendere quest’ultimo insostenibile da un punto di vista economico. Se i vettori aerei fossero sistematicamente obbligati al pagamento dell’indennizzo in caso di ritardo o cancellazione del volo, si assisterebbe con tutta probabilità a un incremento significativo del prezzo dei biglietti aerei.
Al di là di questa problematica, occorre rilevare che le nuove tecnologie potrebbero apportare un significativo miglioramento delle norme giuridiche, rendendole più adeguate alla soluzione del caso concreto.
Da un altro angolo di visuale, i problemi relativi alla responsabilità civile investono soprattutto l’applicabilità delle norme relative all’illecito in ipotesi in cui una scelta, che si rivela dannosa, sia stata compiuta in base alle elaborazioni di un algoritmo. Si pongono problemi soprattutto in ordine alla prova della sussistenza degli elementi della responsabilità civile.
Più in generale, sono in discussione le funzioni della responsabilità civile, che dovrebbe continuare a garantire una certa carica deterrente nei confronti dei possibili tortfeasors e, al contempo, rispondere all’esigenza di indennizzare adeguatamente i soggetti danneggiati.
Le nuove tecnologie rendono necessaria l’elaborazione di nuovi parametri legale per attribuire la responsabilità e, posta la diversa gestione del rischio, impongono ai giuristi di ripensare alcune norme concernenti la responsabilità oggettiva.
Non mancano voci critiche in merito alla possibilità di sviluppare parametri adeguati a valutare la condotta dei sistemi operativi autonomi. Il diritto potrebbe assicurare la tutela dei danneggiati mediante normative speciali che prevedono ipotesi di responsabilità oggettiva.
Pur afferendo all’area del diritto privato, il settore dei veicoli a guida autonoma incide certamente su interessi generali poiché, allo stato, riguarda le norme sulla responsabilità civile che trovano più sovente applicazione e concerne interessi economici di notevole rilevanza.
In prospettiva, occorrerà ricercare su nuove forme di responsabilità che coinvolgano maggiormente i produttori delle vetture. Questi ultimi sono infatti i soggetti che immettono i sistemi operativi nel mercato e gestiscono i rischi connessi al funzionamento del software.
Il tema è affrontato a livello globale e, tenuto conto delle principali tesi, si tratterà di decidere se modificare o interpretare diversamente le norme in materia di responsabilità del produttore, oppure se creare un nuovo sistema di responsabilità, in cui i danneggiati dovrebbero essere risarciti da un apposito fondo istituito con contributi erogati dai produttori di veicoli a guida autonoma.
Bibliografia di base
Palmerini, “Robotica” (parte giuridica), in Enciclopedia di bioetica e scienza giuridica, X, ESI, Napoli, 2016, p. 1100 ss.; M. Bassini, L. Liguori, O. Pollicino, “Sistemi di intelligenza artificiale, responsabilità, accountability. Verso nuovi paradigmi?”, in Intelligenza artificiale, protezione dei dati personali e regolazione, a cura di F. Pizzetti, Giappichelli, Torino, 2018, p. 335.
-
M.G. Losano, “La macchina analitica di Babbage: un fossile che viene dal futuro”, in Diritto dell’informazione e dell’informatica, 2015, n.1, pp. 1-42. Il testo originale “how to make machines use language, form abstractions and concepts, solve kinds of problems now reserved for humans, and improve themselves” è tratto da J. McCarthy, M.L. Minsky, N. Rochester, C.E. Shannon, A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence, 1955, p. 2 (http://jmc.stanford.edu/articles/dartmouth/dartmouth.pdf, data di consultazione: 19.11.2022).
Minsky, S. Papert, Perceptrons: An Introduction to Computational Geometry, MIT Press, Cambridge (Ma), 1969.
J.R. Searle, “Minds, Brains and Programs”, in Behavioral and Brain Sciences, n. 3, 1980, pp. 417457 (trad. it., “La mente è un programma?”, in Le scienze, 1990, n. 259, pp. 16-21). Per una chiara illustrazione dell’esperimento della stanza cinese, si veda anche D. Cole, “The Chinese Room Argument”, in Stanford Encyclopedia of Philosophy, Winter 2020 Edition.
Smolensky, Il connessionismo tra simboli e neuroni, trad. it., Marietti, Genova, 1992. S. Stich, Dalla psicologia del senso comune alla scienza cognitiva, trad. it., Il Mulino, Bologna, 1994. J.R. Searle, Mente, cervello, intelligenza, Bompiani, Milano, 1988, p. 64.
Risoluzione del Parlamento europeo del 16 febbraio 2017 recante raccomandazioni alla Commissione concernenti norme di diritto civile sulla robotica (2015/2103(INL)), https://eurlex.europa.eu/legal-content/IT/ALL/?uri=CELEX%3A52017IP0051; A.C. Amato Mangiameli, “Qualche nuovo s/oggetto”, in A.C. Amato Mangiameli, M.N. Campagnoli, Strategie digitali. #diritto_educazione_tecnologie, Giappichelli, Torino, 2020, pp. 66-68. 14 L.B. Solum, “Legal Personhood for Artificial Intelligences”, in North Carolina Law Review, 70 1992, n. 4.
pensi ai sistemi biometrici facciali di rilevazione delle emozioni, note anche come sentiment machine. Di questi sistemi si fa largo uso in Cina, come strumenti di sorveglianza di massa. Il più recente 2018 si chiama Xue Liang, ossia occhio di falco. Si tratta di un sistema di videosorveglianza di massa che incorpora la tecnologia di riconoscimento facciale e di rilevazione dello stato emozionale; un software di riconoscimento vocale in grado di identificare gli altoparlanti durante le telefonate; e un programma di raccolta del DNA.
Farina, Il cloud computing in ambito sanitario tra security e privacy, Giuffrè, Milano, 2019; M. Farina, “Blockchain e tutela della salute: verso la riorganizzazione dei sistemi sanitari?”, in federalismi.it, 2020, n. 21.
La differenza tra strumenti animati e strumenti inanimati, facenti parte della proprietà. È da attribuire a Aristotele, Politica, BUR, Milano, 2015.
-
Così recita l’art. 8, comma 1, della La Convenzione di Vienna sulla circolazione stradale del 1968, che disciplina la circolazione stradale internazionale nella maggior parte dei Paesi del mondo, in quanto ad essa si ispirano i codici della strada nazionali. In Italia è l’art. 46, comma 1, del codice della strada che stabilisce: “ai fini delle norme del presente codice, si intendono per veicoli tutte le macchine di qualsiasi specie, che circolano sulle strade guidate dall’uomo”.
Si vedano, in argomento, A. Albanese, “La responsabilità civile per i danni da circolazione di veicoli ad elevata automazione”, in Riv. Europa e Diritto Privato, 2019, n. 4; U. Ruffolo, “Per i fondamenti di un diritto della robotica self-learning; dalla machinery produttiva all’auto driverless: verso una ‘responsabilità da algoritmo’?”, in Atti del Convegno 29 novembre 2017-Università per stranieri di Perugia, Giuffrè, Milano, 2017.
Direttiva 2006/42/CE del Parlamento europeo e del Consiglio, del 17 maggio 2006 relativa alle macchine e che modifica la Direttiva 95/16/CE. Si tratta della cosiddetta soggettività ascritticia che è “quella che viene conferita attraverso atti formali da una autorità secondo criteri pratico-funzionali”: G. Taddei Elmi, F. Romano, “Robotica: tra etica e diritto”, in Informatica e diritto, 19 2010, n. 1-2, p. 146.
Sulle problematiche per i diritti delle persone derivanti dallo sviluppo delle tecnologie, già agli inizi degli anni ’90, si espresse Norberto Bobbio auspicando “che la storia conduca al Regno dei diritti dell’uomo anziché al Regno del Grande Fratello”: L’età dei diritti, Einaudi, Torino, 1990, 249; in argomento si veda anche M. Cartabia, “In tema di ‘nuovi’ diritti”, in Scritti in onore di F. Modugno, Editoriale Scientifica, Napoli, 2011, pp. 625-643.
A.C. Amato Mangiameli, “Algoritmi e big data. Dalla carta sulla robotica”, in Rivista di filosofia del diritto, 2019, n.1, pp. 107-124 49 Commissione europea, Comunicazione della Commissione al Parlamento europeo, al Consiglio, al Comitato economico e sociale europeo e al Comitato delle regioni, Creare fiducia nell’intelligenza artificiale antropocentrica, consultabile 23.11.2022, https://eur-lex.europa.eu/legalcontent/IT/TXT/?uri=CELEX:52019DC0168.
-
Consultabile al seguente indirizzo: https://rm.coe.int/carta-etica-europea-sull-utilizzo-dell-intelligenza-artificiale-neisi/1680993348 50 Commissione europea, Libro Bianco sull’intelligenza artificiale – Un approccio europeo all’eccellenza e alla fiducia, consultabile al seguente indirizzo: https://ec.europa.eu/info/sites/default/files/commission-white-paper-artificial-intelligencefeb2020_it.pdf. Commissione speciale sull’intelligenza artificiale in un’era digitale, https://www.europarl.europa.eu/committees /it/aida/home/highlights, costituita con Decisione del Parlamento europeo del 18 giugno 2020, consultabile all’indirizzo: https://www.europarl.europa.eu/doceo/document/TA-9-2020-0162_IT.pdf. Proposta di Regolamento del Parlamento europeo e del Consiglio che stabilisce regole armonizzate sull’intelligenza artificiale (legge sull’intelligenza artificiale) e modifica alcuni atti legislativi dell’Unione, COM/2021/206 final, https://eur-lex.europa.eu/legalcontent/IT/TXT/?uri=CELEX:52021PC0206. 54 S. Rodotà, “L’uso umano degli esseri umani”, in MicroMega, 2015, p.121; Robolaw è anche un progetto di ricerca finanziato dalla Commissione europea in materia di robotica.
Justicia, a inteligência artificial do Jus Faça uma pergunta sobre este conteúdo: Si vedano, tra i tanti, P. Moro, “Macchine come noi. Natura e limiti della soggettività robotica”, in U. Ruffolo, (a cura di), L’Intelligenza Artificiale. Il diritto, i diritti, l’etica, Giuffrè, Milano, 2020; Id., “Il problema della ‘personalità elettronica’”, in Journal of Ethics and Legal Technologies, 2 2020, n. 1; G. Teubner, Ibridi ed attanti. Attori collettivi ed enti non umani nella società e nel diritto, Mimesis, Milano, 2015; Id., Soggetti giuridici digitali? Sullo status privatistico degli agenti software autonomi, Edizioni Scientifiche Italiane, Napoli, 2019.
Si veda per riferimento L. Bigliazzi Geri, U. Breccia, F.D. Busnelli, U. Natoli, Diritto Civile, Norme, soggetti e rapporto giuridico, Utet, Torino, 1986, p. 76. 59 Tale definizione, agevolmente riconoscibile, è la principale e più famosa di soggetto giuridico e fu data da Hans Kelsen nella sua Dottrina pura del diritto (trad. it., Einaudi, Torino, 1966), divenendo ben presto la più corrente in dottrina e in giurisprudenza. In argomento si veda anche C.M. Bianca, Diritto Civile, La norma giuridica, i soggetti, Giuffrè, Milano, 1986, p. 137. 60 Si veda C.M. Bianca, op. cit., p. 138. 61 Così anche J. Chipman, Gray, The nature and sources of the law, Roland Ray edition, MacMillan, 1921, nonché L.B. Solum, op. cit., pp. 1231. 62 Si veda L.B. Solum, op. cit., p. 1245. 63 Si veda F. Laurent, Principes de droit civil, I, Gallica, Parigi, 1869, pp. 367 e ss., La teoria della finzione si lega a doppio filo con il nome del Savigny, che in apertura del volume II del suo Sistema del diritto romano attuale (trad. it., Torino, 1868), afferma che il diritto positivo può estendere a soggettività “a qualche altro ente, oltre l’uomo singolo, e così può artificialmente formarsi una persona giuridica”. Otto von Gierke si dedicò a questa tematica nel secondo volume (su 4 volumi in totale) dell’opera intitolata Das deutsche Genossenschaftsrecht, Weidmann, Berlin, 1869-1913. Egli si ispirava alla iuris potrebbe essere concessa la soggettività ai robot non annoverabili nella categoria dei beni mobili e, per la seconda, a quelli dotati di “animo sociale” e “cervello sociale”.
H. Putnam, filosofo e matematico statunitense un sua opera “I robot: macchine o vita creata artificialmente?” (Mente, Linguaggio e Realtà, trad. it., Adelphi, Milano, 1987, pp. 416-438).
