La inteligencia artificial (IA) y los sistemas automatizados de toma de decisiones están cada vez más presentes en la vida cotidiana y en ámbitos clave como el empleo, la seguridad, la migración o el acceso a derechos, lo que plantea retos relevantes para la igualdad y la protección de los derechos fundamentales.
Así lo advierte el Consejo de Europa, que ha presentado dos nuevas publicaciones sobre el estado de la protección frente a la discriminación algorítmica y orientaciones de política pública para instituciones nacionales.
Sesgos algorítmicos que reproducen y agravan desigualdades existentes
El Consejo de Europa subraya que la discriminación algorítmica es un riesgo particularmente preocupante. Distintas investigaciones muestran que los sesgos de los algoritmos no solo reflejan desigualdades previas, sino que pueden contribuir a
agravarlas, especialmente en contextos donde las decisiones afectan a oportunidades vitales.
Impacto en el empleo: riesgos en procesos de selección y asignación de recursos
En el ámbito laboral, el Consejo de Europa señala que los algoritmos de selección de personal, entrenados con datos históricos, pueden
favorecer injustamente a candidatos hombres al reproducir decisiones previas condicionadas por estereotipos discriminatorios hacia mujeres o grupos minoritarios.
Además, se menciona el uso de herramientas de perfilado por parte de servicios públicos de empleo para asignar recursos a personas demandantes, que han sido consideradas
discriminatorias en algunos casos.
Seguridad y control: sesgos en reconocimiento facial y perfilado étnico
El texto recoge también que la IA y los sistemas automatizados se utilizan con frecuencia en actuaciones de
fuerzas y cuerpos de seguridad, incluyendo tecnologías de reconocimiento facial. El Consejo de Europa alerta de que estas herramientas pueden presentar sesgos discriminatorios o desplegarse de forma que derive en una vigilancia desproporcionada sobre minorías, con riesgo de
perfilado étnico.
Uso en migración: decisiones sobre ciudadanía, asilo y residencia
Otro de los ámbitos señalados es el de la migración. El Consejo de Europa indica que algunas administraciones públicas europeas emplean IA y sistemas automatizados para apoyar decisiones relacionadas con
ciudadanía, asilo o residencia, así como para tareas como identificación de idioma, detección de fraude documental, gestión de casos, atención a personas migrantes mediante chatbots, previsión migratoria o tecnologías de vigilancia fronteriza.
Nuevos marcos legales en 2024: UE y Consejo de Europa
El Consejo de Europa destaca que en 2024 se aprobaron dos instrumentos jurídicos relevantes:
- El Reglamento europeo de IA (EU AI Act)
- El Convenio Marco del Consejo de Europa sobre IA y derechos humanos, democracia y Estado de derecho
Una de las publicaciones presentadas analiza cómo estos instrumentos pueden reforzar la protección frente a la discriminación algorítmica y qué lagunas persisten.
Recomendaciones para instituciones nacionales: papel de organismos de igualdad y DD. HH.
La segunda publicación se centra en el papel que pueden desempeñar los
organismos de igualdad y otras estructuras nacionales de derechos humanos para identificar riesgos, mitigarlos y promover el uso de IA conforme a derechos fundamentales. Las directrices incluyen recomendaciones y ejemplos orientados a aplicar los nuevos marcos normativos europeos y del Consejo de Europa, con enfoque práctico para actores nacionales.
El Consejo de Europa enmarca estas acciones en su trabajo de cooperación para combatir la discriminación, los delitos de odio y el discurso de odio, y para reforzar el respeto a los derechos humanos también en el despliegue de tecnologías digitales, algoritmos e inteligencia artificial.
