Il Dubbio di oggi

Il Dubbio del lunedì

Una guida umana o l’IA colpirà la democrazia

Insidie dell’algoritmo, rende la macchina dello stato più veloce ed efficiente ma non più giusta. Il paradosso del navigatore stradale: cosa fare quando le indicazioni del computer entrano in contraddizione con quel che vediamo? La stessa impasse può accadere nel campo dei diritti
Share on facebook
Share on twitter
Share on linkedin

Se c’é qualcosa di cui una democrazia che funziona ha bisogno, questo “qualcosa” sono le garanzie, ovvero i baluardi di cui nessuno parla fino a quando non si rischia di perdere, per ragioni spesso contingenti o per fattori congiunturali, il patrimonio costituzionale fatto di diritti individuali e di tutele collettive.

Ciò è particolarmente vero in tempi in cui all’intelligenza delle istituzioni, cosi come le abbiamo configurate, ossia improntate sulla base di procedure e funzioni, si accosta a grandi e rapidi passi un’intelligenza alternativa.

Possibilmente complementare a questa: quella che deriva dalla capacità computazionale di dispositivi sofisticati applicati a basi date massive, disponibili ormai in formato digitale. Di queste garanzie si devono oggi occupare più che mai coloro che ne sono esperti, gli attori dello Stato di diritto nelle loro configurazioni istituzionali, CNF, CSM e il governo nell’espressione del Ministero della Giustizia e del Ministero della Innovazione Tecnologica, accomunati, da un lato, dalla consapevolezza di quanto delicato sia l’equilibrio necessario al buon funzionamento della giurisdizione e, dall’altro lato, dalla capacità di fare della trasparenza e dell’eguale accesso le pre- condizioni di uno sviluppo scientifico e tecnologico foriero di sviluppo umano e sociale.

È domenica. C’é il sole. Decidete di andare al mare. Salite sull’auto e impostate il navigatore. Indirizzo di arrivo, alcune opzioni specifiche sulla tipologia di itinerario che desiderate escludere, criteri di priorità – economicità, velocità, lunghezza. Il navigatore si connette al mondo dei dati, calcola, determina un itinerario e vi guida. Eppure qualcosa non torna. Ad uno svincolo autostradale le indicazioni fisiche sono in contraddizione con quelle del vostro navigatore di auto. Che fare?

Spegnere il navigatore, seguire quest’ultimo senza alcuna valutazione comparata di affidabilità – per esempio comparando con la vostra esperienza –, oppure combinare le due fonti di informazioni. Ed ecco allora che l’expertise diventa cruciale. Quando interrompere l’ “effetto guida” del navigatore per introdurre un “adattamento” esperto dell’intelligenza umana?

Quando affidarsi, pur con qualche perplessità, ma pensando che dopotutto il rischio dell’errore del navigatore è basso?

Quando invece stabilire che vale proprio la pena affidarsi perché vi mancano dei dati, ad esempio se sono state modificate le istruzioni di viabilità?

Nel momento in cui il “navigatore” si applica ai dati che riguardano le domande di soluzione di problemi aventi rilievi giuridici, ai dati che attengono alla applicazione di norme che definiscono diritti e prerogative, ai risultati della interpretazione giurisprudenziale, ai dati che attengono all’interazione fra cittadino ed istituzione in genere, allora il ruolo degli esperti delle garanzie nello Stato di diritto di cui realmente ogni cittadino può fruire, nell’epoca della trasformazione tecnologica, digitale, computazionale, deve divenire fondativo e dirimente.

Non si tratta di trasformare le professionalità degli attori che operano nel CNF, nel CSM e nei Ministeri interessati, chiedendo loro di avere la maîtrise di competenze squisitamente matematiche. Ben il contrario.

Si tratta di portare tutta la filiera, dalla profilazione dei bisogni organizzativi, alla progettazione, sviluppo, utilizzo e consolidamento dei dispositivi algoritmici e più generalmente dei sistemi esperti basati sull’intelligenza artificiale in uno spazio che deve essere partecipato, in cui innanzitutto gli esperti delle garanzie abbiano voce.

Come per il navigatore fra dati sulla viabilità, la determinazione di quali criteri usare per “orientare” la ricerca dei dati, l’elaborazione dell’informazione ivi contenuta e la validazione di un ventaglio di opzioni con cui rispondere ad un problema – gli itinerari possibili per andare da “A” a “B” – è una scelta che dipende da cosa per noi conta, da cosa ha valore. Altrettanto la scelta di quali priorità assegnare ai dati da cui estrarre le informazioni che formano le regole di calcolo dei dispositivi algoritmici deve essere fatta in uno spazio suscettibile di rispondere alle garanzie costituzionali e alle garanzie processuali, rappresentazione scritta di una ideale di fondo: l’umano al centro della ingegneria istituzionale.

Gli esperti delle garanzie sono gli attori istituzionali che hanno la conoscenza della singolarità, ma possono – devono – ragionare in termini di effetti di interdipendenza, fra trasparenza, certezza della risposta del decisore pubblico, efficienza, rapidità, efficacia, leggibilità. Posto che in ogni società il bilanciamento fra questi principi si situa legittimamente in un punto diverso, dato il set che bilancia e combina questi criteri, a chi spetta la prospettazione di quali soluzioni offrire?

Se in una società si preferisce la certezza della decisione alla sua leggibilità, l’applicazione di dispositivi computazionali al mondo della giustizia ne dovrà tenere conto, sapendo anche la razionalità matematica si confronta con un trade off: massimizzare le due cose non è possibile e più si cerca di rendere il processo di machine learning leggibile dall’esterno, meno diviene esatto sul piano matematico.

L’autonomia e la terzietà degli esperti delle garanzie vanno tutelate: solo istituzioni che possono instaurare rapporti di equilibrata collaborazione con gli attori economici che sviluppano la tecnologia sono in grado di fare si che l’intelligenza artificiale applicata nel rapporto fra cittadini e istituzioni sia rispondente ai principi del primato delle norme del diritto, prima che a qualsiasi altro tipo di normatività, anche quella matematica e informatica.

Insomma si immagini una “danza delle intelligenze”, guidata da bussole esperte, non delle intelligenze, ma delle garanzie entro cui esse – le intelligenze – si dispiegano, si combinano, si parlano e si ibridano.

Garanzie che non si applicano in modo deduttivo, ma che vanno ribadite, dette, narrate, condivise, come lo si fa con un patrimonio prezioso, il cui valore è diffuso, fra ambiti di vita economica, sociale, politica, e fra generazioni.

Per contro, anche gli attori che sviluppano la tecnologia sapranno di muoversi in uno spazio dove non si utilizzano le norme garanti di diritti individuali a valle, ex post, in via di sanzione.

Essi saranno chiamati, laddove gli strumenti tecnologici, informatici, matematici, trovano utilizzo nel settore pubblico, a farsi carico di un impegno di lungo periodo, in un percorso di innovazione partecipata fin dall’inizio rispondente al primato della regola del diritto.

E c’è un di più, di cui poco si parla. Ragionare sui sistemi esperti e quindi sulla conoscenza che viene utilizzata da coloro che decidono di diritti individuali – non solo attraverso la soluzione di controversie ma anche attraverso la erogazione di servizi in senso ampio – significa fare un passaggio importante, non compiuto e purtuttavia necessario.

Il sistema esperto che si basa sull’algoritmo deve essere equiparato ad una qualsiasi altra fonte di conoscenza tecnica e scientifica, quindi oggetto di contraddittorio o, in altro ambito, oggetto di dialettica, pluralità di voci.

Perché di fatto, chi decide quali priorità assegnare al navigatore – se l’itinerario più veloce, o quello più economico, o quello più corto – deve essere un eco- sistema di attori che si confrontano, senza che la verità – anche quella matematica – sia asserita in modo apodittico.

 

Ultime News

Articoli Correlati