En este taller comentamos cómo es posible ajustar (hacer fine-tuning) a LLMs con una configuración de hardware humilde gracias a las últimas técnicas de PEFT como QLoRA y librerías de optimización.
¿Qué vas a aprender al asistir a esta charla?
- La importancia de la calidad de los datos a la hora de hacer un Fine-Tuning.
- Últimas técnicas de PEFT como QLoRA.
- Uso de librerías de optimización en HuggingFace.