Marsof Academy
TemarioPreciosEntrar
Curso 3

Deep learning y Transformers

De la neurona a tu propio modelo de lenguaje

  • ≈ 289 h
  • Nivel: intermedio-avanzado
  • 6 unidades
  • 36 lecciones

Redes neuronales con backpropagation escrito a mano, PyTorch profesional, visión por computador, procesamiento del lenguaje y el Transformer pieza a pieza, hasta entrenar y servir un pequeño LLM.

Crear mi cuentaVer precios

Lo que sabrás hacer

  • Una red neuronal desde cero, sin librerías de deep learning
  • Una CNN para reconocer dígitos y un sistema NLP con texto real
  • Un Transformer completo y TuLLM, un modelo de lenguaje entrenado por ti

Requisitos previos

Conviene haber hecho antes (o dominar lo que enseña):

Unidades del curso

Unidad 1 · Deep Learning

Redes neuronales desde la neurona hasta atención, con backpropagation implementado a mano.

9 lecciones · ≈ 24 h de estudio

  1. La neurona artificial
  2. Redes multicapa (MLP)
  3. Grafos computacionales y autograd
  4. Backpropagation
  5. Entrenar una red
  6. Activaciones, inicialización y normalización
  7. Dropout y regularización en redes
  8. Redes recurrentes y el gradiente a través del tiempo
  9. LSTM y GRU — memoria con puertas

Ver la unidad: Deep Learning

Unidad 5 · Transformers

Construir un Transformer pequeño y funcional pieza a pieza.

5 lecciones · ≈ 19 h de estudio

  1. Embeddings y codificación posicional — de ids a vectores que saben dónde están
  2. Multi-head attention — muchas miradas a la vez, sin un solo bucle
  3. El bloque Transformer — residual, LayerNorm y MLP
  4. El decoder completo — de ids a logits, pérdida y texto generado
  5. Entrenar un modelo de lenguaje pequeño — datos, gradientes y curvas que hablan

Ver la unidad: Transformers

Unidad 6 · Ingeniería de LLMs

7 lecciones · ≈ 23 h de estudio

  1. Preentrenamiento y leyes de escala
  2. Decodificación — de logits a texto
  3. Inferencia y KV cache
  4. Del modelo base al asistente — SFT y DPO
  5. LoRA y QLoRA — afinar sin tocar los pesos
  6. Cuantización — menos bits, casi el mismo modelo
  7. Evaluar LLMs sin engañarte

Ver la unidad: Ingeniería de LLMs

Proyectos del curso

  • Red neuronal desde cero ≈ 35 h
    Una red neuronal multicapa con backpropagation implementado a mano, entrenada sobre datos reales.
  • Transformer desde cero ≈ 50 h
    Implementa y entrena un Transformer completo, verificando cada componente contra una referencia.
  • TuLLM — un modelo de lenguaje desde cero ≈ 80 h
    Tu proyecto de largo recorrido. Construye un modelo de lenguaje completo, del texto en bruto a la inferencia optimizada, a medida que avanzas por la academia.

Las explicaciones completas, los ejercicios con corrección automática, los exámenes y los proyectos están dentro de la academia. Horas estimadas para alguien que empieza de cero: lecciones con práctica y repaso, retos, exámenes y los proyectos recomendados. Es la misma estimación que verás dentro de la academia.

Por el camino ganas yang, la moneda de la academia: 10 por cada lección, 50 por cada examen de unidad aprobado y 150 por cada proyecto verificado; además, 15 por el reto de hoy y 100 por el de la semana. Se gastan en la tienda en mascotas y colores; con dinero no se pueden comprar.

Artículos del blog relacionados

¿Empezamos?

Crea tu cuenta y activa tu suscripción: tendrás todo el temario desde el primer día.

Crear mi cuentaVer precios