A diferencia del top-k sampling, que siempre considera un número fijo de opciones, el top-p sampling (o nucleus sampling) ajusta dinámicamente cuántas opciones considerar: incluye las palabras más probables hasta que su probabilidad acumulada supera un umbral p definido (por ejemplo, 90%), y elige entre ese conjunto.
Su ventaja frente al top-k fijo
Se adapta mejor a situaciones donde el modelo está muy seguro de la siguiente palabra (considerando pocas opciones) frente a situaciones más ambiguas donde muchas palabras distintas son igualmente plausibles (considerando más opciones), en lugar de usar siempre la misma cantidad fija de candidatos.