Guida Autonoma, gli Aspetti Etici

di Stefano Crisci*

Non si può sfuggire al futuro. Complice il COVID-19,  oggi siamo consapevoli del fatto che la diffusione dell’IA è inarrestabile. La produzione massiccia di dati da parte di ogni individuo sulla terra, ha fatto passare la capacità di memorizzazione degli stessi dal bit al byte, al kilobite, al Gigabite, al Terabyte e così in un crescendo vertiginoso fino allo yottabyte che contiene una quantità di dati che si stima essere pari a 20 milioni di volte di quella che è contenuta in tutti i libri scritti nel corso della storia umana. E’ quasi impossibile stimare la quantità delle informazioni che ogni secondo lanciamo nel web. Stiamo vivendo in una “Infosfera” in cui non viviamo più on-line o offl-line, ma onlife come dice il filosofo Luciano Floridi, di cui ci è difficile misurare i confini e l’entità, ma che dobbiamo in qualche modo indirizzare e governare.

E’ noto che gli algoritmi non “capiscono” ma hanno la capacità di mettere in correlazione questi innumerevoli dati (big Data) tra loro e attraverso una osservazione e un autoapprendimento chiamato machine learning, o deep learning, guidati dall’algoritmo, ci danno un risultato simile a quello che la mente umana potrebbe concepire se avesse la stessa capacità di raccolta ed elaborazione.

Attraverso il massiccio esame dei trend gli algoritmi utilizzano una sorta di matematica della previsione che è impressionante e che ci porta a dei risultati fenomenali. Senza dover spiegare che cos’è la regressione lineare semplice o multipla attraverso la quale l’algoritmo arriva al risultato di consigliare, ma anche di predire la musica o il film che sceglieremo, o addirittura la soluzione di una controversia, ci basti prendere atto del fatto che che siamo in presenza di un sistema di IA predittiva. Il fenomeno pone una serie di quesiti in tutti i campi e soprattutto in quello giuridico.

Occorre verificare la qualità dei dati, il contesto in cui l’IA opera, il design dell’algoritmo stesso, e i suoi meccanismi; occorre prevedere la trasparenza e nel contempo consentire il libero gioco della concorrenza. Oggi riusciamo a prevedere le scelte o le azioni di un essere umano, dalle sue abitudini profilate nel rispetto della privacy, o addirittura dalla sua espressione facciale rilevata (talvolta senza il rispetto della privacy, per ragioni di sicurezza).

Ci troviamo di fronte ad una IA che se opportunamente guidata, può portare a risultati utilissimi in tutti i campi dell’azione umana, come sistemi di medicina predittiva in grado di prevedere se un paziente svilupperà l’Alzahimer entro due anni con un margine di accuratezza di previsione dell’85% e che adattando la propria piattaforma può essere utilissima nel passaggio dalla diagnosi alla prognosi in campo medico sì da rivoluzionare il mondo clinico. Gli algoritmi diventano così complessi, tanto da essere probabilistici geometrici e matematici da mettere in correlazione diretta la qualità della ricerca applicata e la possibilità di successo in ogni campo. Ci rendiamo tuttavia conto del fatto che tutto ciò necessita del fondamentale apporto del fattore umano.

Posto che gli algoritmi sono commissionati e disegnati dall’uomo, occorre stabilire una certa codificazione del rapporto tra etica e diritto nella assoluta certezza di dover governare l’IA e di trarne il massimo beneficio senza sacrificare i diritti fondamentali dell’uomo e le norme eticamente sin qui stabilite.

In ognuno dei campi di possibile applicazione dell’IA occorrono risposte giuridiche ed etiche. Dalla medicina alla guida autonoma le implicazioni sono eminentemente giuridiche. E’ evidente che il tema del controllo etico dell’algoritmo deve essere al centro del dibattito. La Commissione europea ha tracciato le linee guida di come deve essere disegnato un algoritmo; il garante della privacy si sta occupando quotidianamente del complesso rapporto fra diritto alla privacy ed esigenza di garantire la sicurezza della collettività.

Temi come quello della responsabilità per danni  derivante da utilizzo di sistemi di IA portano a riflessioni plurime sulla distribuzione della responsabilità e a forme di differenziazione di quella oggettiva da altre. Lo stesso si dica circa l’inversione dell’onere della prova in situazioni in cui diventa difficile stabilire il nesso eziologico nel determinismo causale del danno. Problematiche relative alla complessa gestione del sistema stradale ed alla normativa connessa agli obblighi informativi in uno scenario di guida automatica sembrano di difficile soluzione in mancanza di un sistema di regole condivise altrettanto complesso che abbracci tutti i campi e gli scenari coinvolti, dalla privacy alla cybersecurity.

Infatti, chi stabilirà se un robot il cui algoritmo è stato mal congegnato è responsabile per i danni da questo cagionati, o se lo è il proprietario che non lo ha addestrato come si deve? Chi infliggerà una pena al designer del prodotto difettoso o che ha provocato un danno a terzi? Chi stabilirà se una macchina a guida autonoma che si è schiantata contro un tir in una giornata di sole perché un riflesso naturale non compreso le ha fatto modificare traiettoria? Cosa dire in merito alla scelta etica in caso di malfunzionamento dell’auto autonoma, su chi sacrificare tra i passanti, gli occupanti dell’auto, o fra le persone anziane, le donne, o i bambini? Ciò porta inevitabilmente a considerare anche la necessità di coperture assicurative obbligatorie.

Storicamente, rispetto alla innovazione tecnologica ed alla sua velocità di sviluppo, la società si è sempre trovata impreparata rispetto al quadro regolatorio e normativo specifico. Ci si è sempre mossi con una regolazione per così dire “postuma”.

Riteniamo sia questo il momento di cogliere una opportunità come quella che ci si profila davanti con i fondi stanziati per l’upgrading totale, per attraversare la nuova epoca.

Occorre regolare un fenomeno così complesso e occorre farlo ora. Non ci può essere una eccessiva regolazione perché il mercato deve essere libero di espandersi a suo piacimento, ma allo stesso modo occorre che le imprese si muovano all’interno di un quadro normativo preciso, con delle regole stringenti seppur talvolta generali ed astratte da applicare caso per caso.

Il diritto, che mai come questa volta insieme ai numeri, è chiamato a fare la sua parte e insieme ad esso, o prima di esso, l’etica con la “E” maiuscola.

A tal fine si sta configurando un sistema di soft law che sempre più sarà inserito in un quadro normativo de iure condendo, ma che necessariamente deve adeguarsi ad un sistema di “raccomandazioni” talvolta vincolanti, tali da costituire un sistema di governance, in guisa da poter generare un sistema di responsabilità in qualche modo determinabile nella sua complessità, a seconda dell’osservanza o meno dei principi da esso desumibili e da redistribuire le stesse fra i vari operatori e fruitori.

La distribuzione delle responsabilità dovrebbe tenere conto di tanti fattori; dai prodotti difettosi, ai servizi di backend, ai requisiti necessari, adattando conseguentemente il concetto di responsabilità per colpa, proprio in funzione del mancato rispetto dei nuovi obblighi di diligenza, in guisa da determinare se si sarebbe potuto evitare un determinato tipo di evento. Ci troviamo di fronte a nuovi diritti; ad un sistema di “causalità incerta” non nuovo al sistema giuridico europeo, che va perimetrato per quanto possibile, bilanciando vari fattori probabilistici di causa effetto. Tale sistema condurrà senza meno ad una previsione di solidarietà in tema di responsabilità fra i vari protagonisti ed al contempo, inevitabilmente, ad un sistema di assicurazioni declinato in maniera sapiente. Anche in questo caso esso deve essere eticamente rivolto alla protezione della parte più debole della catena, il consumatore finale. Qualora infatti si optasse per una responsabilità oggettiva si rischierebbe di creare un ostacolo allo sviluppo tecnologico che è non opportuno e praticamente impossibile da realizzare, perché disincentivante.

Le linee guida elaborate dall’high level expert group   nominato dalla Commissione Europea hanno evidenziato una serie di lacune nell’intera infrastruttura giuridica Europea e delle asimmetrie nelle diverse architetture nazionali tali che necessitano di una veloce armonizzazione con uno spirito costruttivo per il raggiungimento degli obiettivi comuni che è totalmente nuovo. E’ per questo che le stesse hanno fissato dei principi cardine da osservare sia nel design algoritmico sia nell’attuazione delle politiche di investimento organizzazione e diffusione di beni e sistecriscicrmi che utilizzano IA.

L’evoluzione di detti principi dovrebbe costituire un valido strumento per costruire attorno ad essi un sistema in grado di modulare la complessità delle tecnologie che utilizzano l’IA.  Esse infatti sono spesso interconnesse tra loro in un sistema aperto in cui i prodotti si fondono non consentendo la corretta tracciabilità; lo stesso dicasi della capacità delle tecnologie di sfuggire al controllo umano attraverso l’autoapprendimento profondo ed alla capacità degli algoritmi di generare altri algoritmi; analogamente per ciò che concerne la qualità dei dati che deve essere sempre verificata alla fonte con un sistema di certificazione, forse con l’ausilio della blockchain; altrettanto dicasi per la vulnerabilità dei sistemi alla violazione della sicurezza informatica.

Come si vede è un mondo in cui è necessaria la massima attenzione ed una prospettica etica che faccia da cornice ad ogni scelta del mercato che altrimenti rischierebbe di vanificare ogni sforzo fatto sino ad ora. Il tutto in un’ottica “umanocentrica”, volta al rispetto dei principi fondamentali, ossia il rispetto della dignità umana, la libertà dell’individuo, al rispetto della democrazia, della giustizia, dello stato di diritto e dell’eguaglianza e non discriminazione e dei diritti dei cittadini.

Anche in merito alla guida autonoma, la Commissione di esperti nominati dall’EU ha emanato delle Raccomandazioni sulla sicurezza, privacy, equità, etica e responsabilità. Sono raccomandazioni che vanno dalla tutela fisica delle persone sulla strada, standard di safe design; salvaguardia delle informazioni; esse invitano a creare standards chiari per evitare pericoli nella fase di sperimentazione delle nuove tecnologie all’uopo rivedendo le norme sulla circolazione e adattando dette regole intorno ad alcune categorie di utenti. Non mancano raccomandazioni su come sviluppare strategie di informazione circa la raccolta di dati e dei rischi associati. Vi sono ampi richiami alla riduzione di opacità nelle decisioni algoritmiche, alla partecipazione pubblica, alla condivisione di principi etici, alla conservazione delle informazioni ed al consenso informato circa la riservatezza dei dati, alla protezione dei diritti degli individui; alla necessità di promuovere inclusività e non discriminazione; identificare e proteggere risorse pubbliche infrastrutturali  di datasets;  promuovere la partecipazione pubblica in merito al contenuto degli algoritmi; identificare per quanto possibile le obbligazioni dei differenti operatori coinvolti nella guida automatica connessa; promuovere una cultura di responsabilità con riferimento alle obbligazioni associate alla guida automatica connessa; creare un corretto ed effettivo meccanismo di risarcimento che possa garantire le vittime incolpevoli di eventuali incidenti.

Questo è solo un punto di partenza, ma solido ed ampio; in grado di sviluppare un impianto normativo e regolatorio tale da poter contemperare gli interessi degli operatori privati, con quelli delle parti più deboli e nel contempo di poter sviluppare un mercato equo e competitivo senza discriminazioni, in una ottica di trasparenza algoritmica, nel rispetto dei principi etici e del diritto garantendo il rispetto del sovraordinato interesse della collettività. Ciò contribuirà alla rapida ed efficace diffusione della guida autonoma, azzerando o quasi il tasso degli incidenti mortali e consentendo una diversa mobilità che a sua volta diventerà un mezzo per trasferire persone e merci, aiutare le persone deboli o diversamente abili a raggiungere eguali livelli di accesso alla vita sociale nel rispetto dei principi costituzionali di libertà ed eguaglianza.

La strada e lunga ed irta di ostacoli, ma siamo sicuri che l’Italia e l’Europa riusciranno a creare quella necessaria infrastruttura normativa e di governance tale da riuscire per primi e meglio a garantire il rispetto dei diritti fondamentali dell’uomo e la diffusione delle migliori pratiche in tutto il resto del mondo come già accade in molti altri campi in cui veniamo imitati e indicati fra i migliori realizzatori di ordinamenti ed impianti regolatori flessibili che possano garantire lo sviluppo dell’essere umano e la salvaguardia del pianeta eliminando o riducendo drasticamente anche le emissioni e dei consumi di energia.

*Stefano Crisci

Professore aggregato di Market Regulation, Public Health e diritto del Turismo presso La Sapienza di Roma; Avvocato Cassazionista amministrativista. IT Digital Legal Architect;