Per il Mit di Toronto, il riconoscimento facciale di Amazon è “razzista” –


ROMA – Il sistema di riconoscimento facciale di Amazon ha dei “pregiudizi”: identifica con maggiore difficoltà i volti femminili rispetto a quelli maschili e quelli di colore rispetto a quelli bianchi. Sono le conclusioni di una ricerca del Mit dell’Università di Toronto. Il sistema di Amazon, Rekognition, è stato in grado di azzeccare tutte le corrispondenze quando ha analizzato i volti di uomini bianchi. Commetteva l’1,3% di errore in caso di uomini di colore. Le percentuali aumentano in caso di visi femminili bianchi (7,1%) e, soprattutto, di donne con la pelle più scura: afroamericane e ispaniche venivano individuate come uomini in un caso su tre.

Gli algoritmi non hanno convinzioni razziste, ma si espongono alle distorsioni perché “sono quel che mangiano”. Cioè creano la propria visione in base ai dati che elaborano. Lo studio rinnova quindi i timori che, oltre a rappresentare un rischio per la sorveglianza di massa, il riconoscimento facciale possa penalizzare le minoranze o determinati gruppi etnici.

Amazon non è la sola grande società che sviluppa sistemi di riconoscimento facciale. Ma, a differenza di Google, non ha bloccato la loro vendita a governi e forze dell’ordine. Matt Wood, a capo della divisione intelligenza artificiale del gruppo, ha contestato i risultati dello studio canadese. Ha spiegato di aver utilizzato “l’analisi facciale” e non “il riconoscimento facciale”. Il primo individua i volti e attribuisce alcune caratteristiche generiche (ad esempio, indossa gli occhiali o ha la pelle scura). Il secondo è invece più affidabile perchè crea una corrispondenza precisa tra volti e persone. Joy Buolamwini, una delle autrici della ricerca assieme a Inioluwa Deborah Raji, ha risposo a Wood in un post su Medium: al di là delle obiezioni, la tecnologia può essere abusata “indipendentemente dalla sua accuratezza”.

Il punto non sta quindi nelle distinzioni tecniche (che comunque per Buolamwini sono marginali) ma nella necessità di “regolamentare” per evitare una sorveglianza di massa. Perché non serve “identificare un individuo” (riconoscimento facciale) ma basta “valutare un attributo come genere o classificazione etnica” (analisi facciale) per “violare le libertà civili”. Se la tecnologia scambia una persona per un’altra, è possibile che “un innocente venga indicato come criminale sottoposto a controlli ingiustificati. E questo non è più uno scenario ipotetico”.

“I potenziali abusi – spiegano le ricercatrici nelle conclusioni del loro studio – non possono essere ignorate”. Anche perché non c’è alcuna certezza che “le minacce alla privacy e le violazioni delle libertà diminuiscano con l’aumento dell’accuratezza”. Servono quindi “azioni politiche, norme di condotta aziendali e linee guida” per far sì che “le minoranze verranno protette e non messe a rischio dall’evoluzione tecnologica”.

Rekognition è una tecnologia che Amazon ha già messo, in fase di test, nelle mani delle forze dell’ordine. Non è infatti la prima volta che viene sollevato il problema. Lo scorso luglio, l’American Civil Liberties Union (associazione statunitense per la difesa delle liberà civili) ha testato la tecnologia su 535 parlamentari americani. In 28 casi (cioè in più del 5%), il riconoscimento facciale aveva trovato una corrispondenza (in realtà inesistente) tra i volti del Congresso e quelli di criminali contenuti in un archivio pubblico. Gli errori avevano coinvolto uomini e donne, politici democratici e repubblicani, bianchi, ispanici e afroamericani.

Ma, anche in quel caso, di false corrispondenze ce ne erano state molte di più tra i parlamentari di colore. Costituivano un quinto del Congresso ma sono stati coinvolti nel 39% degli errori di Rekognition. Tra i 28 parlamentari identificati come criminali c’era anche John Lewis, tra i leader della marcia su Washington accanto a Martin Luther King nel 1963.

La Repubblica si fonda sui lettori come te, che ogni mattina ci comprano in edicola, guardano il sito o si abbonano a Rep:. È con il vostro contributo che ogni giorno facciamo sentire più forte la voce del giornalismo e la voce di Repubblica.

Mario Calabresi
Sostieni il giornalismo!
Abbonati a Repubblica


https://www.youchannel.org/feed/

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *