En 1820 se convocó un concurso para erigir un monumento a los luchadores anónimos muertos durante el levantamiento del 2 de mayo de 1808, que ganó el arquitecto Isidro González Velázquez. El 21 de abril de 1821 se colocó la primera piedra, parándose la construcción tras la vuelta del absolutismo a España. Se reemprendió en 1836 y se inauguró en 1840.

La obra se erige en el mismo sitio donde el general Murat mandó fusilar a numerosos madrileños después del 2 de mayo de 1808.

En 1985 tomó su nombre actual, al pasar a dedicarse a todos los caídos por España, agregándose al monumento una llama que arde permanentemente.