Il 12 settembre 2019 ha inaugurato all’Osservatorio – Fondazione Prada di Milano Training Humans, una mostra ideata da Kate Crawford, artista, professoressa e studiosa di intelligenza artificiale, e Trevor Paglen, artista e ricercatore nel campo della geografia.
Le fotografie esposte propongono un approfondimento sul tema dell’evoluzione tecnologica del processo di riconoscimento facciale computerizzato, partendo da una raccolta di fotografie utilizzate fin dagli anni Sessata dalla C.I.A. negli Stati Uniti.
In seguito al boom di internet e alla diffusione globale dei social media, le immagini a disposizione sulla rete sono cresciute vertiginosamente, concedendo la possibilità ai ricercatori di utilizzare il web come risorsa, senza doversi più rivolgere alle agenzie governative.

Una grande parte di queste immagini trovate su internet è stata sfruttata, etichettata e cateogrizzata – per età, sesso, razza, emozione e tratti caratteriali – senza il permesso e il consenso dei fotografi e dei soggetti ritratti.
In questa chiave, dove la classificazione diventa molto invasiva e complessa, i criteri di misurazione si trasformano facilmente in strumenti di giudizio morale.
A costruire il percorso narrativo della mostra ci sono due tematiche salienti: la rappresentazione e la catalogazione degli esseri umani attraverso la collezione di dati di training e le modalità di raccolta e classificazione dei materiali da parte dei sistemi tecnologici.

Un altro punto fondamentale della ricerca sono i sistemi di catalogazione basati sulle emozioni, che si fondano sulle teorie controverse dello psicologo Paul Ekman: secondo le sue linee guida, i sistemi misurano le espressioni facciali per valutare alcuni fattori, come salute mentale, affidabilità, tendenza a delinquere, ecc.

Tutto questo racconto appare molto complesso e controverso, e in effetti è proprio così. Può una macchina stabilire se siamo felici oppure tristi, o se abbiamo un futuro da criminali oppure da poliziotti? La ricerca di Crawford e Paglen ci suggerisce che no, non è possibile affidarsi completamente all’intelligenza artificiale per decodificare e interpretare i comportamenti umani.
Bisogna urgentemente modificare e ripensare questo chimerico sistema tecnologico.