Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Introducción a Mistral a gran escala
- Visión general de Mistral Medium 3
- Compensación entre rendimiento y coste (tradeoffs)
- Consideraciones a escala empresarial
Patrones de despliegue para LLM
- Topologías de servicio y decisiones de diseño
- Despliegues en local (on-premises) frente a la nube
- Estrategias híbridas y multi-nube
Técnicas de optimización de inferencia
- Estrategias de lotes (batching) para alto rendimiento
- Métodos de cuantización para la reducción de costes
- Utilización de aceleradores y GPU
Escalaridad y fiabilidad
- Escalar clústeres de Kubernetes para inferencia
- Balanceo de carga y enrutamiento de tráfico
- Tolerancia a fallos y redundancia
Marco de ingeniería de costes
- Medición de la eficiencia de costes en la inferencia
- Ajuste del tamaño de los recursos de cómputo y memoria
- Monitorización y alertas para la optimización
Seguridad y cumplimiento en producción
- Seguridad de los despliegues y APIs
- Consideraciones de gobernanza de datos
- Cumplimiento regulatorio en la ingeniería de costes
Estudios de caso y mejores prácticas
- Arquitecturas de referencia para Mistral a gran escala
- Lecciones aprendidas de despliegues empresariales
- Tendencias futuras en la inferencia eficiente de LLM
Resumen y próximos pasos
Requerimientos
- Sólido entendimiento del despliegue de modelos de aprendizaje automático (machine learning)
- Experiencia con infraestructura en la nube y sistemas distribuidos
- Conocimiento de estrategias de optimización de rendimiento y costes
Público objetivo
- Ingenieros de infraestructura
- Arquitectos de la nube
- Responsables de MLOps
14 Horas
Formación Corporativa a Medida
Soluciones de formación diseñadas exclusivamente para empresas.
- Contenido personalizado: Adaptamos el temario y los ejercicios prácticos a los objetivos y necesidades reales del proyecto.
- Calendario flexible: Fechas y horarios adaptados a la agenda de su equipo.
- Modalidad: Online (en directo), In-company (en sus oficinas) o Híbrida.
Precio por grupo privado (formación online) desde 2900 € + IVA*
Contáctenos para obtener un presupuesto exacto y conocer nuestras promociones actuales
