Considerado la primera obra de arquitectura española en que se manifiestan elementos del estilo renacentista, en especial en su fachada que inaugura el arte plateresco en España.

El palacio fue construido por el cardenal Pedro González de Mendoza para albergar el Colegio Mayor de Santa Cruz que el mismo había fundado para estudiantes sin recursos en 1483. La construcción se inicia en 1486 en estilo gótico con trazas atribuidas a Enrique Egas y ejecución documentada de los canteros Pedro Polido y Juan de la Riba. En 1488 el cardenal suspende las obras que son reanudadas en 1490 en el nuevo estilo renacentista por Lorenzo Vázquez de Segovia, hasta su conclusión en 1491. Fue objeto de varios proyectos y obras de remodelación posteriores debidos, entre otros, a los arquitectos Juan de Nantes, Domingo de Ontanegui, Ventura Rodríguez, Sagarbínaga y Manuel Godoy, siendo este último quien modificó en el siglo XVIII la fachada disponiendo ventanas y balcones de estilo neoclásico.

Las rentas de la institución colegial fueron desamortizadas en 1798, pasando el edificio a la Hacienda pública en 1833 como consecuencia de la desamortizaciones de principios de siglo XIX. A mediados del siglo XIX se cedió la propiedad del inmueble a la Universidad de Valladolid, que refundó un colegio mayor con el mismo nombre a principios del siglo XX dependiente de dicha institución. El edificio unido a su hospedería fue ocupado simultáneamente por distintas instituciones, como la Academia de Bellas Artes de la Purísima Concepción, el Museo de Escultura o el Museo Arqueológico, antes de que se trasladaran a su ubicación definitiva.

Actualmente es sede del Rectorado y de la Biblioteca Histórica de la Universidad de Valladolid, que conserva un importante fondo bibliográfico y documental procedente tanto de la universidad como del primitivo Colegio de Santa Cruz, al que se unieron fondos procedentes de instituciones eclesiásticas desamortizadas.

El edificio fue declarado Bien de Interés Cultural por Decreto de 11 de febrero de 1955.