Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Conceptos y métricas de rendimiento
- Latencia, throughput, consumo de energía, utilización de recursos
- Cuellos de botella a nivel de sistema vs. nivel de modelo
- Perfilado para inferencia vs. entrenamiento
Perfilado en Huawei Ascend
- Uso de CANN Profiler y MindInsight
- Diagnóstico de kernels y operadores
- Patrones de offload y mapeo de memoria
Perfilado en Biren GPU
- Funciones de monitoreo de rendimiento del SDK de Biren
- Fusión de kernels, alineación de memoria y colas de ejecución
- Perfilado consciente del consumo de energía y temperatura
Perfilado en Cambricon MLU
- Herramientas de rendimiento BANGPy y Neuware
- Visibilidad a nivel de kernel e interpretación de registros
- Integración del perfilador MLU con marcos de despliegue
Optimización a nivel de grafo y modelo
- Estrategias de poda de grafo y cuantización
- Fusión de operadores y reestructuración del grafo computacional
- Estandarización del tamaño de entrada y ajuste de lotes
Optimización de memoria y kernels
- Optimización del diseño y reutilización de memoria
- Gestión eficiente de buffers entre distintos juegos de chips
- Técnicas de ajuste a nivel de kernel por plataforma
Mejores prácticas entre plataformas
- Portabilidad del rendimiento: estrategias de abstracción
- Construcción de tuberías de ajuste compartidas para entornos multi-chip
- Ejemplo: ajuste de un modelo de detección de objetos en Ascend, Biren y MLU
Resumen y próximos pasos
Requerimientos
- Experiencia trabajando con tuberías de entrenamiento o despliegue de modelos de IA.
- Comprensión de los principios de cómputo GPU/MLU y la optimización de modelos.
- Familiaridad básica con herramientas y métricas de perfilado de rendimiento.
Público objetivo
- Ingenieros de rendimiento.
- Equipos de infraestructura de aprendizaje automático.
- Arquitectos de sistemas de IA.
21 Horas
Formación Corporativa a Medida
Soluciones de formación diseñadas exclusivamente para empresas.
- Contenido personalizado: Adaptamos el temario y los ejercicios prácticos a los objetivos y necesidades reales del proyecto.
- Calendario flexible: Fechas y horarios adaptados a la agenda de su equipo.
- Modalidad: Online (en directo), In-company (en sus oficinas) o Híbrida.
Precio por grupo privado (formación online) desde 4350 € + IVA*
Contáctenos para obtener un presupuesto exacto y conocer nuestras promociones actuales
