Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Introducción a los Modelos de Lenguaje a Gran Escala (LLM)
- Descripción general de los LLM
- Definición y relevancia en el contexto actual
- Aplicaciones prácticas del IA hoy en día
Arquitectura de los Transformadores
- ¿Qué es un transformador y cómo opera?
- Componentes principales y características destacadas
- Codificación por incrustación y posicional
- Mecanismo de atención multidireccional
- Red neuronal feed-forward
- Técnicas de normalización y conexiones residuales
Modelos basados en Transformadores
- Función del mecanismo de autoatención
- Estructura básica de codificador-decodificador
- Incorporaciones posicionales en el texto<\/li>
- BERT (Representaciones bidireccionales de codificadores mediante transformadores)
- GPT (Transformador preentrenado generativo)
Optimización del rendimiento y aspectos a considerar
- Límite de longitud de contexto
- Mamba y modelos basados en espacios de estados
- Técnica Flash Attention
- Transformadores dispersos como estrategia computacional
- Transformadores aplicados a la visión por computadora
- Importancia de la cuantización para mejorar el rendimiento
Mejoras en los modelos basados en Transformadores
- Técnicas como la generación de texto mediante recuperación contextual
- Combinación múltiple de diferentes tipos de modelos
- Métodos innovadores basados en el análisis jerárquico del pensamiento
Ajuste finetuning de los Modelos
- Concepto fundamental llamado adaptación de rango bajo
- Implementación práctica con herramientas como QLora
Leyes de escalabilidad y optimización en LLM
- Relevancia estratégica de las leyes de escalado para los modelos a gran escala
- Relaciones entre volumen de datos, tamaño del modelo y requerimientos computacionales
- Aspectos principales vinculados al procesamiento de datos masivos
- Mecanismos para lograr mayor eficiencia en cuanto al número de parámetros
Optimización general de los modelos LLM
- Interrelaciones entre magnitud del modelo, volumen de datos, presupuesto computacional y requerimientos de inferencia
- Estrategias efectivas para elevar tanto el desempeño como la eficiencia operativa de los LLM
- Prácticas recomendadas y utilidad de herramientas especializadas durante su entrenamiento y ajuste finetuning
Procesos de entrenamiento e implementación fina de los Modelos LLM
- Paso a paso en la construcción desde cero de un modelo de lenguaje grande.
- Manejo adecuado y obtención continuada de conjuntos de datos necesarios.
- Requerimientos críticos relacionados con grandes volúmenes informáticos, potencia CPU y memoria RAM disponible.
- Desafíos tecnológicos principales presentes durante su procesamiento escalonado.
- Escenario de trabajo abierto donde coexisten múltiples soluciones basadas en código libre en este campo.
Principios Básicos del Aprendizaje por Refuerzo (RL)
- Fundamentos iniciales que conforman esta rama especializada del aprendizaje automático
- Modo de aprendizaje derivado de los estímulos positivos generados en el entorno.
- Definición esencial y noción central en torno al procedimiento analizado.
- Estructura matemática conocida como Procesos de Decisión de Markov (MDP).
- Técnicas basadas en la programación dinámica tradicional aplicada a situaciones reales.
- Herramientas estadísticas del tipo Monte Carlo utilizadas para simulaciones probabilísticas.
- Métodos avanzados denominados aprendizaje de diferencia temporal.
Aprendizaje por Refuerzo Profundo
- Modelo clásico de Q-Networks basadas en redes neuronales profundas (DQN).
- Método Proximal Policy Optimization, frecuentemente abreviado como PPO.
- Elementos indispensables y componentes propios del aprendizaje reforzado contemporáneo.
Integración sinérgica entre LLM y Aprendizaje por Refuerzo
- Formas específicas mediante las cuales estos dos enfoques complementarios se combinan efectivamente.
- Funciones que cumple este último proceso al intervenir sobre el desarrollo de los modelos lingüísticos grandes.
- Estrategia basada en el aporte directo humano durante su entrenamiento mediante retroalimentación continua (RLHF).
- Alternativas factibles y alternas que pueden emplearse como sustitutos viables del procedimiento tradicional mencionado.
Ejemplos Concretos en el Ámbito Práctico
- Aplicaciones demostrables de este sistema integrado en escenarios reales.
- Resultados positivos obtenidos así como limitaciones observadas en proyectos actuales.
Temas Avanzados y Desarrollos Recientes
- Metodologías más sofisticadas e innovadoras actualmente existentes.
- Estrategias emergentes de mejora continua para el perfeccionamiento técnico constante.
- Investigaciones y logros vanguardistas propios del entorno científico contemporáneo.
Resumen General e Iniciativas Subsiguientes
Requerimientos
- Conocimientos básicos sobre Aprendizaje Automático
Público objetivo
- Científicos de datos
- Ingenieros de software
21 Horas
Formación Corporativa a Medida
Soluciones de formación diseñadas exclusivamente para empresas.
- Contenido personalizado: Adaptamos el temario y los ejercicios prácticos a los objetivos y necesidades reales del proyecto.
- Calendario flexible: Fechas y horarios adaptados a la agenda de su equipo.
- Modalidad: Online (en directo), In-company (en sus oficinas) o Híbrida.
Precio por grupo privado (formación online) desde 4350 € + IVA*
Contáctenos para obtener un presupuesto exacto y conocer nuestras promociones actuales
