Pérez Rubalcaba contribuyó decisivamente a modernizar y a desarrollar el sistema educativo español, destacando, especialmente, su importante papel en la redacción de la Ley Orgánica General del Sistema Educativo (LOGSE), en 1990 y en la negociación parlamentaria de la Ley Orgánica de Educación (LOE), en 2006.
En reconocimiento a su brillante carrera le fueron concedidas la Gran Cruz de la Orden de Carlos III (1996) y la Gran Cruz de la Orden de Alfonso X el Sabio (1998). Tras dejar la primera línea política, en 2014 volvió a la Universidad Complutense de Madrid como profesor de Química Orgánica.
Alfredo Pérez Rubalcaba será siempre recordado como una persona profundamente comprometida con la educación, una de sus grandes pasiones y a la que siempre miró con altura de Estado, considerándola clave para la modernización y el desarrollo económico, social y político de España.