La implementación de un sistema de reconocimiento facial conlleva la recolección y el tratamiento de datos altamente sensibles. El rostro forma parte de lo que se denomina “datos biométricos”, una categoría que incluye a todos aquellos datos que remiten al cuerpo como signo identificador. Estos datos son particularmente delicados, pues - a diferencia de otros datos como la dirección o el nombre - no pueden ser cambiados fácilmente. El riesgo implícito de un sistema de reconocimiento facial es que las bases de datos sean vulneradas, filtradas o robadas, lo que equivale a despojar a todas las personas afectadas del control sobre su propio cuerpo.

El reconocimiento facial es una tecnología altamente intrusiva, que obliga la recolección y almacenamiento de un dato sumamente íntimo, como es nuestro rostro. En tareas de vigilancia del espacio público, su uso conlleva la recolección masiva e indiscriminada de información altamente sensible y, al menos potencialmente, permite la creación de perfiles detallados de rutinas diarias de todas las personas. Cuando se utiliza como verificador de identidad - por ejemplo, en el marco de un trámite con el estado o la gestión de un beneficio social- usualmente puede ser sustituida por otros métodos menos invasivos y lesivos de derechos y, por lo tanto, debe evitarse.

El reconocimiento facial ha sido ampliamente cuestionado por las altas tazas de falsos positivos que arroja. Este problema se incrementa dramáticamente cuando las personas que están siendo vigiladas pertenecen a grupos históricamente vulnerados como mujeres, personas de piel oscura o personas trans. Así, la implementación de sistemas de reconocimiento facial conlleva la reproducción técnica de los sesgos de exclusión social y, cuando son utilizados con fines de vigilancia, amenaza el derecho a la dignidad, al debido proceso y la presunción de inocencia.

Especialmente cuando se utiliza para la vigilancia del espacio público y el combate del delito común, pues erosiona la autonomía de las personas en favor de un sistema que pretende el control absoluto, mediante la gestión técnica de las identidades, reproduciendo las desigualdades y exclusiones que históricamente han puesto en desventaja a las comunidades no hegemónicas.