Ética, sesgos y regulación de la IA

Temas que cubre

• Sesgos
• Equidad
• Paridad demográfica
• Igualdad de oportunidades
• Equalized odds
• Calibración
• Privacidad
• RGPD
• Seudonimización
• k-anonimato
• Inferencia de pertenencia
• AI Act
• Categorías de riesgo
• Alto riesgo
• Modelos de uso general
• Model cards
• Supervisión humana
• Red-teaming
• Respuesta a incidentes

Lecciones de la unidad

1. Sesgos y equidad en modelos de ML 65 min
   De dónde vienen los sesgos de un modelo, cómo se miden con métricas de equidad por grupo (paridad demográfica, igualdad de oportunidades, equalized odds, calibración) y por qué no se pueden cumplir todas a la vez.
2. Privacidad y protección de datos en IA 60 min
   Lo esencial del RGPD para quien construye sistemas de IA —datos personales, bases jurídicas, minimización, EIPD—, la diferencia entre anonimizar y seudonimizar, y cómo un modelo puede filtrar sus datos de entrenamiento.
3. El Reglamento Europeo de IA (AI Act) 60 min
   Cómo clasifica el Reglamento (UE) 2024/1689 los sistemas de IA por riesgo, qué obligaciones tienen proveedores y responsables del despliegue, qué se exige a los modelos de uso general y cuándo se aplica cada parte.
4. Despliegue responsable — documentar, supervisar, atacar y responder 55 min
   Model cards y datasheets, supervisión humana que funcione de verdad, red-teaming antes de lanzar, y un proceso de respuesta a incidentes para cuando algo sale mal.

Requisitos previos

Antes de esta unidad conviene haber hecho:

• Machine Learning (Curso 2 · Unidad 3)