Forze dell'Ordine + Algoritmi razzisti = partita truccata
di Francesco P. Esposito *

L’intelligenza artificiale non serve a scoprire che Port Louis è la capitale delle Mauritius.

Serve (o dovrebbe servire) a farci una domanda secca: Chi decide? E chi si prende il calcio nei denti quando decide il software?

Oggi la polizia usa algoritmi per “prevedere” i reati.

Succede davvero. Succede adesso. Succede qui.

E chi finisce nel mirino?

I poveri. I neri. I meridionali. Gli “stranieri” di quartiere.

Chi cambia città. Chi vive nel paese accanto.

Chi ha la faccia sbagliata nel posto sbagliato.

Tu magari sei incensurato, ma se l’algoritmo ti segna… sei un sospetto. Punto.

E sai perché? Perché i dati sono marci.

Allenati sul passato. Pieni di bias. Pieni di pregiudizi.

E i bias diventano sentenze.

Esempio vero, non pugnette: COMPAS (USA)
Software per decidere se uno rischia di tornare a delinquere.
Risultato? I neri “alto rischio” quasi il doppio rispetto ai bianchi.
Anche se i bianchi poi delinquono quanto (o più).

Lo dice ProPublica. Non lo zio al bar.

Intelligenza artificiale predittiva + giustizia =

Un’equazione che non torna.


* Criminologo forense, componente del Comitato tecnico-giuridico dell'Osservatorio

VAI A TUTTE LE NOTIZIE SU COSTITUZIONE

Dossier terrorismo