La Agencia de los Derechos Fundamentales de la Unión Europea advierte de los riesgos de errores, discriminación, vigilancia y limitación del ejercicio de derechos que puede plantear el reconocimiento facial y otras tecnologías de identificación biométrica remota. Reclama una base jurídica clara, controles independientes, transparencia y garantías frente a posibles abusos.
Las tecnologías de identificación biométrica remota permiten identificar a una persona a distancia y sin su participación activa mediante la comparación de sus datos biométricos con los almacenados en bases de datos. Uno de sus principales usos es el reconocimiento facial, capaz de analizar imágenes obtenidas mediante cámaras y compararlas con fotografías de personas incluidas en bases de datos.
La Agencia de los Derechos Fundamentales de la Unión Europea (FRA) analiza en un nuevo informe las implicaciones para los derechos fundamentales de la utilización de estas tecnologías por las fuerzas y cuerpos de seguridad. Aunque reconoce que pueden contribuir a prevenir e investigar delitos, localizar a personas sospechosas o encontrar víctimas y personas desaparecidas, advierte de que su capacidad para identificar personas en espacios públicos plantea importantes riesgos para los derechos fundamentales.
El estudio se basa en análisis jurídico y trabajo de campo desarrollado en Francia, Alemania, Grecia, Hungría, Irlanda, Italia y Países Bajos, mediante entrevistas a autoridades policiales, proveedores tecnológicos, organismos de protección de datos y otros reguladores, academia y organizaciones de la sociedad civil. También incorpora una encuesta a 1.054 personas realizada en espacios públicos de cinco Estados miembros, cuyos resultados, según advierte expresamente la FRA, no son representativos de la población general de los países estudiados.
Riesgo de errores y resultados discriminatorios
Uno de los principales problemas señalados por la FRA es la precisión de los sistemas. Los errores técnicos pueden producir identificaciones incorrectas y resultados sesgados, con consecuencias para las personas afectadas.
La Agencia señala que existen preocupaciones acerca de que los sistemas de reconocimiento facial funcionen con menor precisión para determinados grupos de población, lo que puede dar lugar a resultados discriminatorios. Entre los grupos respecto de los que la FRA reclama que se compruebe específicamente la precisión de los sistemas menciona a mujeres, personas de color, menores y personas mayores.
El informe insiste además en que una tasa general de precisión puede ofrecer una imagen distorsionada si oculta diferencias entre distintos grupos. Por ello, recomienda realizar pruebas independientes o externas antes de utilizar los sistemas y repetirlas periódicamente durante su funcionamiento, evaluando tanto su precisión como sus posibles sesgos.
En sus conclusiones, la FRA recalca que, pese a los avances tecnológicos, persisten los riesgos de resultados erróneos y sesgos incorporados al funcionamiento de estas herramientas, y señala la falta de datos, evaluaciones rigurosas y evidencias suficientes que permitan determinar la magnitud de estos problemas.
La vigilancia puede condicionar el ejercicio de derechos
El informe presta especial atención al posible impacto de estas tecnologías cuando se utilizan en espacios públicos. Entre las preocupaciones detectadas durante el trabajo de campo figura el riesgo de que su utilización derive en una vigilancia general e indiscriminada y produzca un efecto disuasorio sobre el ejercicio de derechos.
En la encuesta realizada por la FRA, el 29% de las personas entrevistadas afirmó que el uso policial de estas tecnologías afectaría negativamente a su decisión de asistir a actos públicos o protestas. El efecto era mayor entre quienes se consideraban pertenecientes a minorías étnicas, que manifestaban que acudirían con menor frecuencia a este tipo de actos.
Ante estos riesgos, la FRA sostiene que los Estados miembros no deberían utilizar sistemas de identificación biométrica remota, ni en tiempo real ni posteriormente, para identificar a participantes en manifestaciones pacíficas o reuniones políticas. La finalidad es evitar la normalización de la vigilancia generalizada y proteger las libertades de reunión, expresión y asociación.
Una regulación clara para evitar usos distintos de los autorizados
La FRA también alerta del denominado “function creep”, es decir, la ampliación progresiva del uso de una tecnología más allá de la finalidad para la que fue inicialmente implantada.
El trabajo de campo identifica preocupaciones por la falta de claridad acerca de las bases de datos y listas de vigilancia utilizadas para realizar las comparaciones biométricas, las personas que pueden ser incorporadas a ellas y los criterios empleados. El informe recoge además que, en algunos casos, se han producido abusos reconocidos tanto por personas entrevistadas pertenecientes a las fuerzas de seguridad como por representantes de la sociedad civil.
Por ello, la Agencia considera necesario que los Estados establezcan con precisión las finalidades y condiciones de utilización, las bases de datos que pueden consultarse y mecanismos que permitan registrar cada utilización de estas herramientas y el acceso a los datos producidos. También reclama procedimientos que garanticen que los resultados sean interpretados por personal con la formación y experiencia adecuadas antes de adoptar actuaciones basadas en ellos.
Más transparencia, supervisión independiente y vías de reclamación
Otro de los problemas detectados es la escasa información pública sobre la utilización policial de estas tecnologías. En varios de los Estados analizados no existen mecanismos específicos de transparencia que permitan informar a la ciudadanía sobre su funcionamiento y eficacia, y la consulta pública previa a su implantación es limitada.
La FRA recomienda informar de manera significativa a la población sobre los usos previstos y reales de estos sistemas, consultar previamente a la sociedad civil y otros actores y publicar periódicamente informes de transparencia sobre su utilización, las infracciones investigadas, el número de personas afectadas y el funcionamiento de las herramientas.
Asimismo, considera imprescindible una supervisión externa efectiva, dotando a los organismos responsables de recursos, competencias y conocimientos técnicos suficientes. Las personas cuyos derechos puedan haberse visto afectados deben disponer además de vías efectivas de recurso y poder solicitar explicaciones claras sobre el papel desempeñado por los sistemas de inteligencia artificial en su caso.
La FRA reclama incorporar las garantías desde el inicio
El Reglamento europeo de Inteligencia Artificial regula el uso de la identificación biométrica remota por las fuerzas de seguridad y limita especialmente su utilización en tiempo real en espacios de acceso público, permitiéndola únicamente en determinados supuestos y bajo condiciones específicas. Estas normas se suman a las garantías establecidas por la Carta de los Derechos Fundamentales de la Unión Europea y la legislación europea de protección de datos.
Para la FRA, los Estados miembros deben contar con una base jurídica clara, específica y completa antes de utilizar estas tecnologías, definir sus finalidades, establecer las condiciones de autorización y garantizar la supervisión judicial o independiente. La Agencia llega a recomendar que no se utilicen para fines policiales mientras no existan marcos jurídicos nacionales adecuados y mecanismos de supervisión establecidos.
El informe concluye que los riesgos para los derechos fundamentales no desaparecerían, aunque estos sistemas alcanzasen una precisión absoluta. Su utilización afecta también a cuestiones como la privacidad, la protección de datos personales, la no discriminación y las libertades de expresión, reunión y asociación. Para la FRA, las garantías de los derechos fundamentales deben incorporarse desde el diseño y durante todo el uso de estas tecnologías, junto con una supervisión independiente efectiva.