A implementação de um sistema de reconhecimento facial implica na coleta e tratamento de dados altamente sensíveis. O rosto é parte do que denominamos “dados biométricos”, uma categoria que inclui todos aqueles dados que remetem ao corpo como sinal identificador. Esses dados são particularmente delicados, porque – diferentemente de outros dados como o endereço ou o nome – não podem ser alterados facilmente. O risco implícito no uso de um sistema de reconhecimento facial é que os bancos de dados sejam violados, vazados ou roubados, o que equivale a despojar todas as pessoas afetadas do controle sobre seus próprios corpos.

O reconhecimento facial é uma tecnologia altamente intrusiva que obriga a coleta e armazenamento de um dado extremamente íntimo: nosso rosto. Em atividades de vigilância do espaço público, seu uso implica na coleta massiva e indiscriminada de informações sensíveis que, ao menos potencialmente, permitem a criação de perfis detalhados sobre as rotinas diárias de todas as pessoas. Para a verificação de identidade, por exemplo em trâmites com o Estado ou na gestão de um benefício social, geralmente pode ser substituída por outros métodos menos invasivos e lesivos de direitos e deve, portanto, ser evitada.

O reconhecimento facial tem sido amplamente questionado por suas altas taxas de erro e falsos positivos. O problema aumenta dramaticamente quando as pessoas que estão sendo vigiadas pertencem a grupos historicamente vulneráveis, com mulheres, pessoas de pele negra ou trans. Assim, a implementação de sistemas de reconhecimento facial implica na reprodução técnica de vieses de exclusão social e, se utilizados com fins de vigilância, ameaçam os direitos à dignidade, devido processo e presunção da inocência.

Especialmente quando se utiliza para a vigilância do espaço público e o combate a delitos comuns, porque restringe a autonomia das pessoas em favor de um sistema que pretende o controle absoluto mediante a gestão técnica das identidades. Com isso, reproduz desigualdades e exclusões que historicamente prejudicaram uma série de comunidades não hegemônicas.