La función de recompensa traduce el objetivo que se le quiere enseñar a un agente en una señal numérica concreta que el algoritmo de aprendizaje por refuerzo puede usar para ajustar su comportamiento: recompensas positivas por acciones deseables, negativas por indeseables.
Por qué diseñarla bien es tan difícil
Definir una función de recompensa que capture exactamente lo que realmente se quiere lograr —y no un atajo no deseado que también maximiza esa señal— es uno de los mayores desafíos prácticos del aprendizaje por refuerzo, y un tema central dentro de la investigación en alineación de IA.