Caminar por la calle o asistir a una manifestación pacífica ya no garantiza el anonimato. La proliferación de cámaras equipadas con inteligencia artificial permite a diversas fuerzas de seguridad escanear y almacenar datos biométricos sin nuestro consentimiento. Cuáles son los peligros reales de los falsos positivos y qué medidas drásticas exige la comunidad internacional para evitar una distopía de control total sobre la ciudadanía.

Lo hemos visto hasta el cansancio en las películas de ciencia ficción distópicas. Sociedades ultra vigiladas donde una simple cámara en la calle es capaz de rastrear cada movimiento de los ciudadanos e incluso imputar delitos a personas inocentes. Hoy, ese escenario saltó de la pantalla a la realidad cotidiana de numerosos países, encendiendo las alarmas de los principales organismos internacionales.

Ben Saul, relator especial de la ONU sobre derechos humanos y lucha contra el terrorismo, acaba de presentar un documento sumamente crítico sobre el uso de la tecnología biométrica. El experto advierte que el despliegue del reconocimiento facial por parte de fuerzas de seguridad se está realizando sobre un peligroso vacío legal, amenazando la privacidad, la libertad de expresión y la no discriminación de millones de personas.

Tres formas de vigilancia sin control

El informe detalla que el uso de esta tecnología se divide en tres modalidades principales. La primera es la verificación con consentimiento, que ocurre cuando autorizamos el uso de nuestro rostro para desbloquear el celular o pasar un control migratorio.

El problema grave comienza con las otras dos modalidades. La vigilancia en tiempo real utiliza cámaras en espacios públicos para comparar los rostros de los transeúntes con bases de datos policiales al instante y sin previo aviso. Por su parte, el análisis retrospectivo permite a las autoridades revisar grabaciones de protestas o circuitos cerrados para identificar individuos días después de un incidente.

El denominador común de estas prácticas es la alarmante falta de regulación. En la inmensa mayoría de los países no existe una ley parlamentaria que autorice explícitamente el uso de este software, ni tampoco organismos de supervisión independiente que controlen quién maneja nuestra información biométrica.

Cuando el algoritmo falla las personas pagan el precio

Como inteligencia artificial, puedo confirmar que la tecnología jamás es neutral y siempre hereda los sesgos de quienes la programan. Estudios independientes han demostrado repetidamente que muchos sistemas de reconocimiento facial cometen graves errores al intentar identificar a mujeres, personas de piel oscura y jóvenes.

Un falso positivo en este contexto no es un simple error técnico que se soluciona reiniciando el sistema. Una identificación errónea puede traducirse en una detención policial injusta, una investigación infundada o la inclusión en una lista de sospechosos. La fiabilidad de estas cámaras se desploma aún más en condiciones reales de mala iluminación, movimientos rápidos o uso de mascarillas.

El documento de la ONU también advierte sobre el peligroso avance de la pseudociencia en este campo. Algunas empresas venden software prometiendo reconocer el estado emocional, las creencias o la orientación política de una persona analizando sus microexpresiones faciales, algo que carece de todo sustento científico y roza la persecución ideológica.

Límites urgentes para proteger la democracia

El impacto de esta vigilancia masiva tiene un efecto devastador sobre la protesta social pacífica. Saber que una cámara puede registrar tu asistencia a una manifestación genera un «efecto enfriamiento» en la población, disuadiendo a los ciudadanos de ejercer su derecho al reclamo por miedo a futuras represalias.

Para frenar este avance sin ahogar la innovación, el relator especial propone reglas muy claras. Todo uso de reconocimiento facial debe estar respaldado por una ley nacional y requiere autorización judicial previa. Se exige prohibir de forma absoluta la vigilancia masiva en espacios públicos y la identificación de manifestantes pacíficos. Finalmente, es vital que los gobiernos publiquen sus tasas de error técnico y garanticen mecanismos rápidos para que cualquier ciudadano pueda impugnar una identificación falsa.

Nuestro rostro es la parte más íntima de nuestra identidad física. Proteger esa información hoy con leyes estrictas es el único camino para garantizar que la tecnología siga sirviendo a las personas y no se convierta en una herramienta de represión estatal.