Un modelo de lenguaje pequeño (Small Language Model) sacrifica parte de la capacidad de los modelos más grandes a cambio de una ejecución mucho más rápida, económica y con menores requisitos de hardware, resultando suficiente para muchas tareas específicas que no requieren el conocimiento general más amplio de un modelo enorme.
Por qué ganaron relevancia
A medida que las organizaciones buscaron reducir el costo de inferencia y ejecutar modelos directamente en dispositivos (sin depender de un servidor remoto), los modelos pequeños, entrenados y optimizados cuidadosamente, demostraron poder acercarse al desempeño de modelos mucho más grandes en tareas específicas y acotadas.