Un modelo de lenguaje de código se especializa en entender y generar código de programación, entrenándose sobre grandes repositorios de código fuente público en múltiples lenguajes de programación, lo que le permite captar patrones sintácticos y convenciones específicas de la programación mejor que un modelo de lenguaje general.
Su diferencia con un LLM general
Aunque muchos modelos de lenguaje generales también saben programar razonablemente bien gracias al código incluido en su entrenamiento, los modelos especializados en código suelen lograr mejor precisión sintáctica y comprensión de estructuras de proyectos de software más complejos.