Contacta con nosotros

Temario del curso

Introducción a Mistral a gran escala

  • Resumen de Mistral Medium 3.
  • Compensaciones entre rendimiento y coste.
  • Consideraciones a escala empresarial.

Patrones de despliegue para LLM

  • Topologías de servicio y opciones de diseño.
  • Despliegues locales frente a despliegues en la nube.
  • Estrategias híbridas y multicloud.

Técnicas de optimización de inferencia

  • Estrategias de agrupación (batching) para alto rendimiento.
  • Métodos de cuantización para la reducción de costes.
  • Utilización de aceleradores y GPUs.

Escalabilidad y fiabilidad

  • Escalado de clústeres de Kubernetes para inferencia.
  • Balanceo de carga y enrutamiento de tráfico.
  • Tolerancia a fallos y redundancia.

Marco de ingeniería de costes

  • Medición de la eficiencia del coste de inferencia.
  • Ajuste del tamaño de los recursos de cómputo y memoria.
  • Monitorización y alertas para la optimización.

Seguridad y cumplimiento en producción

  • Protección de despliegues y APIs.
  • Consideraciones sobre la gobernanza de datos.
  • Cumplimiento normativo en ingeniería de costes.

Estudios de caso y mejores prácticas

  • Arquitecturas de referencia para Mistral a gran escala.
  • Lecciones aprendidas de despliegues empresariales.
  • Tendencias futuras en inferencia de LLM eficiente.

Resumen y próximos pasos

Requerimientos

  • Conocimientos sólidos sobre el despliegue de modelos de aprendizaje automático.
  • Experiencia con infraestructura en la nube y sistemas distribuidos.
  • Conocimiento de estrategias de optimización de rendimiento y costes.

Público objetivo

  • Ingenieros de infraestructura.
  • Arquitectos de la nube.
  • Líderes de MLOps.
 14 Horas

Formación Corporativa a Medida

Soluciones de formación diseñadas exclusivamente para empresas.

  • Contenido personalizado: Adaptamos el temario y los ejercicios prácticos a los objetivos y necesidades reales del proyecto.
  • Calendario flexible: Fechas y horarios adaptados a la agenda de su equipo.
  • Modalidad: Online (en directo), In-company (en sus oficinas) o Híbrida.
Inversión

Precio por grupo privado (formación online) desde 2900 € + IVA*

Contáctenos para obtener un presupuesto exacto y conocer nuestras promociones actuales

Próximos cursos

Categorías Relacionadas