Técnicas de Afinamiento Eficiente de Parámetros (PEFT) para LLMs

Introducción al Afinamiento Eficiente de Parámetros (PEFT)

• Motivación y limitaciones del afinamiento completo.
• Vista general de PEFT: objetivos y beneficios.
• Aplicaciones y casos de uso en la industria.

LoRA (Adaptación de Bajo Rango)

• Concepto e intuición detrás de LoRA.
• Implementación de LoRA usando Hugging Face y PyTorch.
• Práctica: Afinamiento de un modelo con LoRA.

Adapter Tuning

• Funcionamiento de los módulos adaptadores.
• Integración con modelos basados en transformadores.
• Práctica: Aplicación de Adapter Tuning a un modelo transformador.

Prefix Tuning

• Uso de prompts suaves para el afinamiento.
• Fortalezas y limitaciones en comparación con LoRA y adaptadores.
• Práctica: Prefix Tuning en una tarea de LLM.

Evaluación y Comparación de Métodos PEFT

• Métricas para evaluar el rendimiento y la eficiencia.
• Compensaciones en velocidad de entrenamiento, uso de memoria y precisión.
• Experimentos de referencia e interpretación de resultados.

Despliegue de Modelos Afinados

• Guardado y carga de modelos afinados.
• Consideraciones de despliegue para modelos basados en PEFT.
• Integración en aplicaciones y flujos de trabajo.

Buenas Prácticas y Extensiones

• Combinación de PEFT con cuantización y destilación.
• Uso en entornos con recursos limitados y multilingües.
• Direcciones futuras y áreas de investigación activa.