I sistemi di intelligenza artificiale ( AI) sono sempre più utilizzati in tutti i settori della vita pubblica. Tuttavia, manca una legge sull’AI che metta in primo piano i diritti fondamentali. Per questo motivo, l’associazione per gli studi giuridici sull’immigrazione (Asgi) insieme all’European Digital Rights ( Edri) e altre 113 organizzazioni della società civile hanno lanciato una dichiarazione collettiva dove delineano delle raccomandazioni centrali per guidare il Parlamento e il Consiglio dell’Unione europea nel modificare la proposta sull’intelligenza artificiale della Commissione europea.

In Europa, come denuncia l’Asgi, si è già assistito all’impatto negativo dell’intelligenza artificiale quando è governata in modo scorretto. Per esempio, l’uso discriminatorio dell’AI al confine ha facilitato la deportazione di persone in movimento e negato loro l’accesso a servizi vitali come l’assistenza sanitaria e la sicurezza sociale. Si è anche visto come l’uso di sistemi di polizia predittiva abbiano portato a un aumento dell’over- policing di comunità razziali, e come le aree povere, della classe operaia e degli immigrati siano state ingiustamente prese di mira dai sistemi di rilevamento delle frodi. L’uso del riconoscimento facciale e sistemi simili sono stati utilizzati in tutta Europa in modi che portano alla sorveglianza biometrica di massa. «Favorendo la sorveglianza di massa e amplificando alcune delle più profonde disuguaglianze sociali e squilibri di potere, i sistemi di AI stanno mettendo i nostri diritti fondamentali e i processi e i valori democratici a grande rischio», denunciano le associazioni che hanno sottoscritto la dichiarazione. Ecco perché la proposta delle istituzioni dell’Unione europea su questo tema diventa un passo globalmente significativo. Ma questa deve affrontare gli impatti strutturali, sociali, politici ed economici dell’uso dell’AI. Questo assicurerà che la legge sia a prova di futuro e dia priorità alla protezione dei diritti fondamentali.

Ma cosa chiedono i firmatari di questa dichiarazione rivolta alla Commissione europea? Un approccio coesivo, flessibile e a prova di futuro al “rischio” dei sistemi di AI. Compreso un meccanismo robusto e coerente per aggiornare i sistemi di AI che rientrano sotto le categorie di rischio “inaccettabile” e limitato, e assicurando che le rubriche dell’area “ad alto rischio” possano essere aggiornate.

Divieti su tutti i sistemi di AI che presentano un rischio inaccettabile per i diritti fondamentali. Incluso un divieto totale di: sistemi di punteggio sociale; identificazione biometrica a distanza in spazi accessibili al pubblico ( da parte di tutti gli attori); sistemi di riconoscimento delle emozioni; categorizzazione biometrica discriminatoria; AI fisiognomica; sistemi utilizzati per prevedere future attività criminali; sistemi per profilare e valutare il rischio in un contesto di migrazione.

Altro punto richiesto è l’obbligo per gli utenti di ( cioè quelli che impiegano) sistemi di AI ad alto rischio per facilitare la responsabilità per coloro che sono colpiti dai sistemi di AI. Includendo un obbligo per gli utenti di sistemi di AI ad alto rischio di condurre e pubblicare una valutazione d’impatto sui diritti fondamentali, compreso l’impatto sulle persone, i diritti fondamentali, l’ambiente e il più ampio interesse pubblico.

Altro punto della proposta è la coerente e significativa trasparenza pubblica. Incluso un obbligo per gli utenti di registrare l’uso di sistemi ad alto rischio sulla banca dati pubblica. Ma la legge deve anche contemplare significativi diritti e risarcimenti per le persone colpite dai sistemi di AI. Tali come il diritto a non essere sottoposti a sistemi di AI in violazione del regolamento e delle pratiche proibite, il diritto a una spiegazione per decisioni prese con l’assistenza dei sistemi di AI, e il diritto a un rimedio giudiziario.

Sempre in merito alla trasparenza, si chiede che venga introdotta l’accessibilità durante tutto il ciclo di vita dell’intelligenza artificiale. Inclusi requisiti di accessibilità per tutti i sistemi. Non manca la richiesta di sostenibilità e protezioni ambientali nello sviluppo e nell’uso dei sistemi di AI. Includendo requisiti di trasparenza pubblica sul consumo di risorse e impatto delle emissioni di gas serra. Infine si chiede di Garantire la privacy per le persone con disabilità; rimuovendo l’ampia esenzione per i sistemi AI parte di banche dati informatiche dell’UE su larga scala; e garantire un processo di applicazione robusto e dotato di risorse che centri i diritti fondamentali.