A diferencia de las redes recurrentes, que procesan una secuencia en orden, el Transformer procesa todos los elementos en paralelo y por sí solo no sabe cuál va primero. El embedding posicional agrega a cada elemento una señal numérica adicional que codifica su posición dentro de la secuencia, permitiendo que el modelo distinga “el gato come pescado” de “el pescado come gato”.
Por qué es indispensable
Sin esta información, el Transformer trataría una secuencia como una simple bolsa de elementos sin orden, perdiendo por completo la estructura gramatical y de significado que depende del orden de las palabras.