Si chiama Rekognition, ed è una tecnologia di riconoscimento facciale sviluppata da Amazon, in grado di identificare i volti delle persone in tempo reale utilizzando uno speciale archivio nel quale sono inseriti, pre-scannerizzati, i visi da controllare, allo scopo di neutralizzare possibili “soggetti pericolosi”.
Questo sistema, basato su algoritmi di identificazione e sui dati immessi in esso, potrebbe presto essere messo a disposizione della Polizia e dell’ICE – l’Agenzia per l’immigrazione e le dogane – allo scopo di identificare minacce sul suolo americano.
Ma, a sconsigliare l’uso di tale tecnologia è una ricerca realizzata dal Mit dell’Università di Toronto, che rivela che il Rekognition sembra individuare tutte le corrispondenze solo nel caso dell’analisi dei volti di uomini bianchi.
Quando analizza volti femminili al posto di quelli maschili emerge una percentuale di 7,5% di errore, con le donne scambiate per uomini; mentre, per i visi di colore invece di quelli bianchi, l’errore è molto più basso, aggirandosi intorno al 2%.
Tale rivelazione apre non solo domande sulla sua reale funzionalità, ma crea una concreta possibilità che il suo errato utilizzo possa danneggiare minoranze o particolari gruppi etnici attraverso non l’identificazione di un individuo ma con una classificazione su determinati criteri fisici.
Il rischio che si possano generare abusi nella privacy e delle libertà garantite è molto alto, dato il pericolo che una persona possa erroneamente essere sospettata di un presunto crimine e subire controlli oltre i limiti consentiti diventa fin troppo reale e possibile.
Tutelare chi potrebbe essere vittima di “identificazioni fallaci e forzate” attraverso norme che tutelino le libertà civili e proteggano le minoranze potrebbe diventare presto necessario, in parallelo all’accuratezza degli strumenti che sono a disposizione delle autorità.
Le probabilità di ritrovarsi, alla fine, in una situazione di tipo distopico, dalla quale sarebbe poi difficile o impossibile uscire non vanno affatto sottovalutate, data l’instabilità che la nostra civiltà sta affrontando non sembra capace di aver fine.