Il settore pubblico del Regno Unito sta già utilizzando l’intelligenza artificiale più di quanto si creda

Professore di diritto economico e condirettore del Center for Global Law and Innovation, Università di Bristol

Albert Sanchez-Graells ha ricevuto finanziamenti dalla British Academy. È uno dei Mid-Career Fellows 2022 dell'Academy (MCFSS22\220033, £ 127.125,58). Le sue ricerche e le sue opinioni tuttavia non sono attribuibili alla British Academy.

L'Università di Bristol fornisce finanziamenti come partner fondatore di The Conversation UK.

Visualizza tutti i partner

La rapida ascesa dei prodotti di intelligenza artificiale (AI) come lo strumento di generazione di testo ChatGPT preoccupa politici, leader tecnologici, artisti e ricercatori. Nel frattempo, i sostenitori sostengono che l’intelligenza artificiale potrebbe migliorare la vita in campi come la sanità, l’istruzione e l’energia sostenibile.

Il governo del Regno Unito è ansioso di incorporare l’intelligenza artificiale nelle sue operazioni quotidiane e definisce una strategia nazionale per fare proprio questo nel 2021. L’obiettivo, secondo la strategia, è quello di “guidare in prima linea e dare l’esempio nel futuro”. diffusione sicura ed etica dell’IA”.

L’intelligenza artificiale non è priva di rischi, in particolare quando si tratta di diritti individuali e discriminazione. Questi sono rischi di cui il governo è a conoscenza, ma un recente libro bianco politico mostra che il governo è riluttante ad aumentare la regolamentazione dell’IA. È difficile immaginare come si possa ottenere un “dispiegamento sicuro ed etico” senza questo.

I dati provenienti da altri paesi mostrano gli svantaggi dell’utilizzo dell’intelligenza artificiale nel settore pubblico. Molti nei Paesi Bassi sono ancora scossi dallo scandalo legato all’uso dell’apprendimento automatico per individuare le frodi sul welfare. Si è scoperto che gli algoritmi hanno accusato falsamente migliaia di genitori di frode sugli assegni familiari. Secondo quanto riferito, le città di tutto il paese stanno ancora utilizzando tale tecnologia per prendere di mira i quartieri a basso reddito per indagini sulle frodi, con conseguenze devastanti per il benessere delle persone.

Un’indagine condotta in Spagna ha rivelato carenze nel software utilizzato per determinare se le persone commettevano frodi sulle indennità di malattia. E in Italia, un algoritmo difettoso ha escluso dai posti di lavoro aperti gli insegnanti qualificati tanto necessari. Ha rifiutato completamente i loro CV dopo averli presi in considerazione per un solo lavoro, invece di abbinarli a un'altra posizione idonea.

La dipendenza del settore pubblico dall’intelligenza artificiale potrebbe anche portare a rischi per la sicurezza informatica o a vulnerabilità nelle infrastrutture critiche a supporto del servizio sanitario nazionale e di altri servizi pubblici essenziali.

Considerati questi rischi, è fondamentale che i cittadini possano avere fiducia che il governo sia trasparente riguardo al loro utilizzo dell’intelligenza artificiale. Ma il governo è generalmente molto lento, o poco disposto a rivelare dettagli al riguardo, cosa che la commissione parlamentare per gli standard nella vita pubblica ha pesantemente criticato.

Il Centro governativo per l’etica e l’innovazione dei dati ha raccomandato di pubblicizzare tutti gli usi dell’intelligenza artificiale nelle decisioni significative che riguardano le persone. Il governo ha successivamente sviluppato uno dei primi standard di trasparenza algoritmica al mondo, per incoraggiare le organizzazioni a divulgare al pubblico informazioni sul loro utilizzo degli strumenti di intelligenza artificiale e su come funzionano. Parte di ciò comporta la registrazione delle informazioni in un archivio centrale.

Tuttavia, il governo ha reso il suo utilizzo volontario. Finora, solo sei organizzazioni del settore pubblico hanno rivelato i dettagli del loro utilizzo dell’IA.

L’ente di beneficenza legale Public Law Project ha recentemente lanciato un database che dimostra che l’uso dell’intelligenza artificiale nel settore pubblico del Regno Unito è molto più diffuso di quanto mostrano le informazioni ufficiali. Attraverso la libertà di richiesta di informazioni, il registro Tracking Automated Government (TAG) ha, finora, monitorato 42 istanze del settore pubblico che utilizzano l’intelligenza artificiale.

Molti degli strumenti sono legati all’individuazione delle frodi e al processo decisionale in materia di immigrazione, compreso l’individuazione dei matrimoni fittizi o delle frodi ai danni delle casse pubbliche. Quasi la metà dei consigli locali del Regno Unito utilizza l’intelligenza artificiale anche per dare priorità all’accesso ai sussidi per l’alloggio.

Gli agenti penitenziari stanno utilizzando algoritmi per assegnare i prigionieri appena condannati a categorie a rischio. Diverse forze di polizia stanno utilizzando l’intelligenza artificiale per assegnare punteggi di rischio simili o sperimentando il riconoscimento facciale basato sull’intelligenza artificiale.