Qué es
El fine-tuning (ajuste fino) parte de un modelo que ya fue entrenado sobre un gran volumen de datos generales, y continúa entrenándolo con un conjunto de datos más chico y específico para especializarlo en una tarea, un dominio o un estilo particular.
Por qué no se entrena desde cero
Entrenar un modelo grande desde cero requiere cantidades enormes de datos y de cómputo. El fine-tuning aprovecha el conocimiento general que el modelo ya adquirió (transferencia de aprendizaje) y lo redirige con muchos menos datos y recursos, lo que lo hace accesible para la mayoría de los equipos.
Riesgos
Si el conjunto de datos de ajuste es muy chico o poco representativo, el modelo puede sufrir overfitting sobre esos ejemplos y perder parte de su capacidad de generalización original.