En lugar de depender exclusivamente de que evaluadores humanos etiqueten manualmente qué respuestas son buenas o malas, la IA constitucional define un conjunto explícito de principios o reglas (una “constitución”) que el propio modelo usa para criticar y revisar sus propias respuestas durante el entrenamiento.
Por qué se propuso este enfoque
Busca hacer más transparente y escalable el proceso de alinear un modelo con ciertos valores, ya que los principios quedan documentados explícitamente en lugar de estar implícitos únicamente en miles de ejemplos de preferencias humanas difíciles de auditar en conjunto.