Attenti alla tecnologia del sospetto
Dagli algoritmi che
identificano i colpevoli al rischio di profilazione etnica. Anche
l’intelligenza artificiale ha bisogno di limiti. In gioco c’è la libertà
È difficile pensare a una scelta più autenticamente umana – e così
intensamente percorsa dall’empatia – di quella dell’adozione. Da essa discende,
infatti, la scommessa di una complessa genitorialità. Ovvero, la volontà di
ricreare quanto di più inimitabile esista: il rapporto tra genitori e figli.
Ecco, quindi, l’esigenza di un vaglio quanto mai attento della personalità dei
potenziali genitori, capace di rapportarne ogni parola, ogni gesto, persino
ogni silenzio al ruolo di padre e madre che si candidano a svolgere.
Ebbene, apprendere che in Florida persino quella scelta (sia pur nelle sole
fasi preliminari) sia stata affidata da alcune associazioni agli algoritmi,
rende meglio di ogni altro esempio l’idea della pervasività dell’intelligenza
artificiale nelle nostre esistenze quotidiane e nelle nostre relazioni
interpersonali.
In proposito, molte sono le letture possibili: suggeriamo in particolare Intelligenza
artificiale. L’impatto sulle nostre vite, diritti e libertà di
Alessandro Longo e Guido Scorza, pubblicato da Mondadori nel 2020. Se, infatti,
è da promuovere il ricorso “benefico” all’intelligenza artificiale in ogni
campo (ad esempio per migliorare la diagnosi o la terapia di determinate
patologie) è essenziale, però, avere chiaro il limite oltre il quale non si può
(e non si deve) «fare tutto ciò che si può fare».
Un caso su cui riflettere è quello dell’uso dell’intelligenza artificiale a
fini investigativi. Gli autori dell’assalto a Capitol Hill del 6 gennaio scorso
verrebbero identificati, a quanto è dato sapere, grazie ai software di
riconoscimento facciale forniti da Clearview, società specializzata del
settore, a partire da un database di 3 miliardi di immagini “rastrellate” tra
le tracce disseminate in rete. E questo, nonostante le carenze di tali tecniche
riscontrate già nel 2019 dal National Institute of Standards and Technologies,
secondo cui il tasso di errore nell’identificazione biometrica è molto più
elevato – da 10 a 100 volte – nel caso degli afroamericani e degli asiatici. In
Italia, nel novembre scorso, è stato adottato un bando di gara per individuare
il miglior sistema di riconoscimento facciale da utilizzare in tempo reale
nell’identificazione di persone straniere.
Il Ministro dell’Interno Luciana Lamorgese, in risposta a un’interrogazione
parlamentare del deputato Filippo Sensi, ne ha escluso l’utilizzo nei confronti
dei migranti. Per altro, le stesse tecniche erano state già utilizzate dalla
Polizia di Stato nel 2018, in occasione dell’arresto di due cittadini
georgiani, accusati di furto in appartamento. E sarebbe interessante capire se
il successivo giudizio abbia confermato o meno il “sospetto” del software.
Le dichiarazioni, ormai così frequenti, sull’opportunità dell’estensione del
riconoscimento facciale ad altri ambiti (dagli stadi agli aeroporti) ci
proiettano in una dimensione dalla quale è facile precipitare, senza colpo
ferire, in una società “biosorvegliata”. Qualcosa di simile, potenzialmente, a
quanto accade in Cina, dove telecamere installate ovunque registrano ogni più
minuto movimento. Ne consegue una domanda: ci si può fidare degli algoritmi?
Perché il pericolo connesso a questo tipo di tecniche è, innanzitutto, quello
dei falsi positivi: e, quindi, dell’individuazione e stigmatizzazione di
soggetti del tutto innocenti.
Come a Detroit, la scorsa estate, quando, per un furto di cinque orologi, venne
arrestato un afroamericano del tutto estraneo ai fatti a causa di un errore
dell’algoritmo di riconoscimento facciale utilizzato dalla polizia. «Spero che
non siate convinti che tutti i neri si somiglino» è stato il commento
dell’uomo. Commento che, per la verità, andrebbe rivolto, prima che alla
polizia, a chi ha progettato quell’algoritmo maldestro. Insomma, il pericolo della
profilazione etnica, sia pur solo preterintenzionale, è assai elevato: tanto
più se tali tecniche sono correlate al potere coercitivo e alle diverse forme
di privazione o limitazione della libertà.
Più in generale, si avverte il rischio di cristallizzare negli algoritmi,
persino amplificandoli, i pregiudizi che già ci condizionano, alimentando una
vera e propria “tecnologia del sospetto”, e del sospetto fisiognomico. La
tendenza oggi prevalente è quella a ritenere gli algoritmi come neutri, e per
ciò virtualmente infallibili, imparziali e, in una parola, “giusti”, molto più
di quanto lo possa essere l’umana, troppo umana, razionalità “naturale”. Accade
così che, dagli stessi algoritmi, si facciano dipendere decisioni sempre più
significative per la vita individuale e collettiva, smarrendo il senso del
limite che invece va posto con risolutezza di fronte all’inarrestabile volontà
di potenza della tecnica.
E il primo limite che l’intelligenza artificiale deve rispettare è quello della
non discriminazione, per evitare di rendere talmente regressivo da apparire
distopico ciò che invece può e deve rappresentare uno strumento di progresso
sociale e persino, se ben utilizzato, di riduzione delle diseguaglianze. Si
pensi alla condanna a sei anni inflitta in Wisconsin a un afroamericano per
effetto, tra l’altro, della prognosi di recidiva, stilata da un algoritmo
incline ad assegnare ai neri un tasso di pericolosità maggiore di quello
attribuito ai bianchi. Presumibilmente, il giudizio umano sarebbe stato, in quel
caso, assai meno “lombrosiano” di quanto sia stata, invece, la fredda
razionalità artificiale.
Il problema, allora, non è tanto e non è solo se il diritto sia – come scriveva
Francesco Carnelutti – «materia ribelle ai numeri», ma è che forse dobbiamo insegnare
all’algoritmo a “pensare”, liberando noi, assieme a lui, di tutte quelle forme
di intolleranza che una democrazia matura non può tollerare. Dietro tutto ciò,
emerge la domanda – tenace e molesta come un rovello – che accompagna le
peripezie e i dilemmi delle democrazie mature: come conciliare l’innovazione e
le sue mirabolanti potenzialità con la tutela rigorosa delle garanzie
individuali e dei diritti sociali? È un interrogativo a cui è arduo rispondere,
ma che è impossibile eludere.
FONTE: DI LUIGI MANCONI E FEDERICA RESTA/ REPUBBLICA / ROBINSON
Nessun commento:
Posta un commento