Ingeniería con PyTorch

Temas que cubre

• Tensores
• Autograd
• Módulos
• Datasets
• DataLoaders
• Optimizadores
• Bucles de entrenamiento
• GPU
• Precisión mixta
• Checkpoints
• Profiling
• Memoria

Lecciones de la unidad

1. Tensores y broadcasting 80 min
   El tensor es la pieza con la que se construye todo en PyTorch; aprende a pensar en formas, vistas, broadcasting y reducciones usando NumPy como modelo exacto.
2. Autograd sobre tensores 75 min
   Del autograd escalar al de PyTorch. Cada operación con tensores sabe devolver gradientes con la forma de sus entradas, y ahí el broadcasting y las reducciones se invierten.
3. Módulos, parámetros y optimizadores 90 min
   Cómo nn.Module encuentra solo los parámetros de tu modelo, qué guarda state_dict y cómo actualizan los pesos SGD con momentum y AdamW, construido por ti en NumPy.
4. Datasets y DataLoaders 70 min
   Separar «cómo se obtiene un ejemplo» de «cómo se agrupan en batches». Construye tu Dataset, un DataLoader reproducible con shuffle por época y funciones collate con padding.
5. Bucle de entrenamiento profesional 75 min
   El bucle que usarás durante toda tu carrera. Modos train/eval, validación sin gradientes, early stopping con el mejor checkpoint, warmup con decaimiento coseno, semillas y logging.
6. GPU, precisión mixta y checkpoints 75 min
   Lo que separa un script que entrena de un entrenamiento que aguanta días en una GPU. Cuánta memoria hace falta, por qué float16 desborda, cómo acumular gradientes sin cambiar la matemática, checkpoints que reanudan de verdad y cómo medir antes de optimizar.

Requisitos previos

Antes de esta unidad conviene haber hecho:

• Deep Learning (Curso 3 · Unidad 1)