Los prejuicios, estereotipos y sesgos #edadistas de la IA
Las IA fueron entrenadas con datos históricos en los que las personas de más de 50 años eran sistemáticamente descartadas. ¿Qué crees que va a hacer?
La discriminación algorítmica es cuando un sistema automatizado de selección de personal, de crédito, de acceso a servicios sanitarios u otros reproduce y amplifica sesgos preexistentes.
Los algoritmos aprenden de patrones históricos. Y la historia laboral, financiera y sanitaria de nuestras sociedades está llena de edadismo
Los sistemas de #IA que filtran CV descartando perfiles sénior, plataformas que ofrecen crédito en condiciones más desfavorables a partir de cierta edad o herramientas de triaje sanitario que infravaloran síntomas en pacientes de más de 65 años. El sesgo no siempre es explícito
¿Existe legislación sobre este tema?
En España, la Ley 15/2022, integral para la igualdad de trato y no discriminación, prohíbe expresamente la discriminación por edad y establece que los sistemas automatizados de toma de decisiones deben respetar este principio
El Reglamento de IA (AI Act, Reglamento UE 2024/1689), ya en vigor, clasifica como de alto riesgo los sistemas de IA usados en empleo, educación, servicios esenciales y acceso a prestaciones
El Tribunal de Justicia de la UE ha consolidado que la discriminación indirecta por edad, incluida la mediada por herramientas tecnológicas, es ilegal aunque no haya intención discriminatoria
¿Como detectarla?
Algunas señales que deben activar las alarmas:
→ Recibes una respuesta negativa de procesos automatizados sin ninguna explicación
→ Un sistema te deniega un servicio o te ofrece condiciones distintas sin un criterio claro
→ La empresa no puede explicar qué variables usó el algoritmo para llegar a ese resultado
Lo reconoce el RGPD (art. 22) y lo refuerza el AI Act
¿Como sé que no fue una persona?
El RGPD (arts. 13 y 14) obliga a las empresas a informarte cuando toman decisiones sobre ti mediante sistemas automatizados. Si no lo hicieron, ya existe un incumplimiento
Puedes pedirlo expresamente. Tienes derecho a solicitar intervención humana, a conocer la lógica del sistema utilizado y a impugnar la decisión. Por escrito, con fecha y guardando copia de todo
¿Qué podemos hacer?
Exigir explicaciones cuando una decisión automatizada nos afecte negativamente. Documentar el proceso y conservar las comunicaciones. Reclamar ante la Agencia Española de Protección de Datos (AEPD) Acudir a asesoramiento jurídico si el daño es significativo
¿Te has sentido discriminado alguna vez por alguno de estos sistemas u otros en relación con tu edad ?
Si lo deseas puedes escribirme.
Gracias por leerme
Hasta la próxima