Como parte de um acordo legal, o Departamento de Polícia de Detroit concordou com novas diretrizes limitando como pode usar a tecnologia de reconhecimento facial.
Essas novas políticas proíbem a polícia de prender pessoas com base apenas nos resultados de uma busca por reconhecimento facial, ou nos resultados de lineups de fotos realizados imediatamente após uma busca por reconhecimento facial. Também estabelece que lineups de fotos não podem ser realizados exclusivamente com base no reconhecimento facial - em vez disso, deve haver evidências adicionais ligando um suspeito ao crime.
As políticas - que podem ser aplicadas por um tribunal nos próximos quatro anos - também exigem treinamento da polícia sobre os riscos e perigos da tecnologia de reconhecimento facial, e uma auditoria de todos os casos desde 2017 em que o reconhecimento facial foi usado para obter um mandado de prisão.
Roger Williams, um homem negro que foi preso após ser identificado pela tecnologia de reconhecimento facial, processou o departamento de polícia e foi representado por advogados da União Americana pelas Liberdades Civis e da Iniciativa de Litígio de Direitos Civis na Faculdade de Direito da Universidade de Michigan.
Ao anunciar o acordo, a ACLU descreveu-o como alcançando "as políticas e práticas mais fortes do departamento de polícia da nação limitando o uso desta tecnologia perigosa." Também observou que mulheres e pessoas de cor são "substancialmente mais propensas a serem identificadas de forma errada pela tecnologia de reconhecimento facial."
"Com este capítulo doloroso de nossas vidas se encerrando, minha esposa e eu continuaremos a aumentar a conscientização sobre os perigos dessa tecnologia," disse Williams em um comunicado.
Ele teria passado 30 horas na cadeia depois de ter sido erroneamente identificado como um homem capturado nas imagens de vigilância roubando cinco relógios de uma loja no centro de Detroit. Sua foto da carteira de motorista surgiu em uma busca por reconhecimento facial em um banco de dados de fotos de fichas criminais e de carteiras de motorista, e o contratante de segurança que forneceu as imagens concordou que ele era a melhor correspondência, levando à sua prisão.
Os promotores mais tarde retiraram as acusações. O departamento de polícia também disse que está pagando a Williams $300.000 como parte do acordo.
Em um comunicado próprio, o departamento de polícia disse estar "satisfeito com seu trabalho com a ACLU e a Universidade de Michigan nos últimos ano e meio," acrescentando que "firmemente" acredita que a nova política "servirá como melhor prática nacional e modelo para outras agências que usam esta tecnologia."
Cidades como São Francisco baniram o uso de reconhecimento facial por agentes da lei. A Microsoft também proibiu recentemente os departamentos de polícia de usar sua tecnologia de IA para reconhecimento facial.