Prisión provincial para hombres de Madrid, llamada también a principios del siglo XX Prisión Celular por la disposición en celdas individuales que perseguían el aislamiento y clasificación de los reclusos, nació con la pretensión de ser un modelo de reclusión innovador extensivo a otras provincias. Se determinó su creación por Real Decreto de 15 de octubre de 1876, comenzando su construcción en 1877 de la mano de los arquitectos Tomás Aranguren y Eduardo Adaro, que siguieron las ideas del jurista y reformador inglés Jeremías Bentham. El edificio ocupaba el solar donde hoy se encuentra el Cuartel General del Ejército del Aire, antiguo Ministerio del Ejército, y fue inaugurado por Alfonso XIII el 20 de diciembre de 1884 en sustitución de la anterior Cárcel del Saladero situada a las afueras de Madrid.

Al inicio de la Guerra Civil Española tuvo lugar dentro de la cárcel una matanza de reclusos contrarios al bando republicano entre el 22 y 23 de agosto de 1936 que supuso el fusilamiento de 30 personas, conocida como "La Matanza de la Cárcel Modelo", atribuida a los milicianos republicanos que se hicieron con el control de la prisión. En su mayor parte se trataba de políticos considerados conservadores, militares proclives al levantamiento, intelectuales y falangistas. Entre ellos se encontraban Melquiades Álvarez, jurista, diputado y jefe del Partido Republicano Liberal Demócrata, José Martínez Velasco, jefe del Partido Agrario, José María Albiñana, diputado a Cortes, Julio Ruiz de Alda, aviador del Plus Ultra, Fernando Primo de Rivera, el hermano de José Antonio, Ramón Álvarez Valdés, ex ministro de la República y los militares sublevados en el Cuartel de la Montaña, entre otros muchos. Se acusó al Gobierno de tener conocimiento de estos sucesos por la presencia de funcionarios del Ministerio de la Gobernación y de la Dirección General de Seguridad. A estos hechos sucedieron las sucesivas sacas de reclusos de esta cárcel destinados a su ejecución en Paracuellos del Jarama.

La prisión fue demolida en 1939 y sustituida en sus funciones por la actual Cárcel de Carabanchel (Madrid).