Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Duración 14 horas
Temario del curso
Introducción a Mistral a gran escala
- Resumen de Mistral Medium 3
- Compromisos entre rendimiento y coste
- Consideraciones a escala empresarial
Patrones de implementación para LLM
- Topologías de servicio y decisiones de diseño
- Implementaciones en las instalaciones frente a la nube
- Estrategias híbridas y multinube
Técnicas de optimización de inferencia
- Estrategias de procesamiento por lotes para un alto rendimiento
- Métodos de cuantización para la reducción de costes
- Utilización de aceleradores y GPU
Escalaridad y fiabilidad
- Escalar clústeres de Kubernetes para inferencia
- Equilibración de carga y enrutamiento de tráfico
- Tolerancia a fallos y redundancia
Marcos de ingeniería de costes
- Medición de la eficiencia del coste de inferencia
- Adecuación de recursos de cómputo y memoria
- Monitoreo y alertas para la optimización
Seguridad y cumplimiento normativo en producción
- Protección de implementaciones y API
- Consideraciones de gobernanza de datos
- Cumplimiento normativo en la ingeniería de costes
Estudios de caso y mejores prácticas
- Arquitecturas de referencia para Mistral a gran escala
- Lecciones aprendidas de implementaciones empresariales
- Tendencias futuras en la inferencia eficiente de LLM
Resumen y próximos pasos
Requerimientos
- Sólido entendimiento de la implementación de modelos de aprendizaje automático
- Experiencia con infraestructura en la nube y sistemas distribuidos
- Familiaridad con estrategias de ajuste de rendimiento y optimización de costes
Público objetivo
- Ingenieros de infraestructura
- Arquitectos de nube
- Líderes de MLOps
Formación Corporativa a Medida
Soluciones de formación diseñadas exclusivamente para empresas.
- Contenido personalizado: Adaptamos el temario y los ejercicios prácticos a los objetivos y necesidades reales del proyecto.
- Calendario flexible: Fechas y horarios adaptados a la agenda de su equipo.
- Modalidad: Online (en directo), In-company (en sus oficinas) o Híbrida.
Precio por grupo privado (formación online) desde 2900 € + IVA*
Contáctenos para obtener un presupuesto exacto y conocer nuestras promociones actuales
