Nació en julio de 1951 en Solares (Cantabria). Doctor en Ciencias Químicas de la Universidad Complutense, ha desempeñado importantes cargos políticos en los Gobiernos socialistas de Felipe González y José Luis Rodríguez Zapatero.

Fue Director General de Universidades, Secretario General y Secretario de Estado de Educación, y Ministro de Educación y Ciencia en 1992. En 1993 dejó el Ministerio para asumir la cartera de Presidencia y la portavocía del Gobierno.

Tras la victoria electoral del PP en 1996, desarrolló su actividad política como miembro de la Ejecutiva del PSOE, y desde su escaño en el Congreso de los Diputados, siendo portavoz socialista en la Comisión de Ciencia y Tecnología y asumiendo la representación del PSOE en materia de la política frente al terrorismo, impulsó el Acuerdo por las Libertades y contra el Terrorismo, conocido también como Pacto Antiterrorista, suscrito por los dos principales partidos en diciembre de 2000.

A partir de 2004, en el Gobierno de José Luis Rodríguez Zapatero, Rubalcaba pasó a ser Portavoz del Grupo Socialista en el Congreso. En abril de 2006 vuelve al Gobierno para hacerse cargo del Ministerio del Interior.

Desde octubre de 2010, Rubalcaba compaginó sus responsabilidades al frente de la cartera de Interior con las de Vicepresidente Primero y Portavoz del Gobierno, y fue el candidato del PSOE en las elecciones generales del 20 de noviembre de 2011.