Los modelos grandes de lenguaje (LLM) tienen capacidades impresionantes para el análisis y la generación de lenguaje. Pero son cada vez más grandes, y eso demanda cada vez más recursos de computación, con costes económicos, ecológicos y de accesibilidad. En esta charla se describirán las tendencias actuales más relevantes de modificación de LLMs tales como adaptación o cuantificación, que permiten utilizarlos de forma que exijan menos capacidades de computación, minimizando la distorsión respecto al modelo original.
¿Qué vas a aprender al asistir a esta charla?
- Exigencia computacional de los LLM
- Técnicas de ejecución eficiente de LLMs