Tehnologija prepoznavanja lica već se uspješno široko primjenjuje u robotici i svakodnevici – recimo prilikom ulaska radnika na posao ili otključavanja mobitela. Kao tehnologija koja može prepoznati i lice sa slike ili videa na osnovu baze podataka, prepoznavanje lica na ovaj način izgledalo je kao obećavajuća metoda za prepoznavanje počinitelja kaznenih djela. Za početak, trebala bi biti potpuno neutralna, lišena uobičajenih ljudskih grešaka i predrasuda. Posebno onih rasnih.

No, unatoč prepostavci tehnološke nepristranosti i objektivnosti, u Americi su organizacije za ljudska prava, ali i neki tehnološki eksperti upozoravali da bi uvođenje tehnologije prepoznavanja lica u policijske procedure moglo samo pojačati rasnu nejednakost.

Nažalost, prema analizi statistike koju donosi New York Times, čini se da su bili nedvojbeno u pravu. Dosad je u SAD-u na osnovu krive identifikacije pomoću tehnologije prepoznavanja lica s dostupnih fotografija i video snimaka podignuta optužnica protiv šest osoba za koje se kasnije dokazalo da nemaju veze sa zločinom. Pogađate, svih šest bili su Afroamerikanci.

New York Times donosi priču mlade majke Porche Woodruff iz Detroita koja je mislila da se netko šali kad ju je policija došla uhititi zbog pljačke i krađe auta. Prošla je torturu ispitivanja i pritvora, nakon što je podignuta optužnica morala je skupiti 100 tisuća dolara da se brani sa slobode. Kad se napokon pokazalo da nema nikakve veze s kriminalom općenito, državni tužitelj odbacio je optužbe temeljene na osnovu činjenice da ju je tehnologija prepoznavanja lica označila kao počiniteljicu.

Kako je tako nešto moguće? Kritičari primjene ove tehnologije tvrde da je to skup problema koji se kreću od tehnoloških manjkavosti do toga da na kraju mnogi policajci pate od rasnih predrasuda. Tvrdi se da do grešaka i lažnih optužnica dolazi jer su algoritmi u tehnologiji prepoznavanja „obučeni“ uglavnom na bazi bijelih lica, da je crnih premalo za bolju točnost. S druge strane, u policijskim bazama podataka broj fotografija prethodno uhićenih Afroamerikanaca daleko premašuju njihov broj u općoj populaciji što opet zbunjuje tehnologiju.

To što su ljudi, u ovom slučaju policija skloni vjerovati tehnologiji bez razmišljanja u ovakvim slučajevima pojačava problem.