La Cárcel de la Real Chancillería de Valladolid aparece en las primeras Ordenanzas que regulan la estructura y el funcionamiento del tribunal dictadas por los Reyes Católicos en los años 1485 (Córdoba), 1486 (Piedrahita) y 1489 (Medina del Campo) como cárcel real de Corte para los presos dependientes del propio tribunal, a cargo de los alcaldes de la Sala del Crimen que cumplían la función de alcaldes de Corte. Esta Cárcel de la Chancillería fue, por tanto, cárcel de Corte de Valladolid durante todo el tiempo de vigencia del tribunal hasta la nueva demarcación y organización judicial de 1834, conviviendo en la ciudad con las cárceles de otras jurisdicciones, como las de la Inquisición o la de la Universidad, o con las cárceles de justicias ordinarias inferiores, como la del corregimiento, esta última llamada también cárcel pública de Valladolid o cárcel del concejo.

Como ha explicado José Luis de las Heras, el sistema penal de los Austrias, basado en el utilitarismo punitivo, no concebía la privación de libertad como una pena en sí misma, sino que la prisión cumplía una función preventiva y principalmente procesal. El encarcelamiento se mantenía mientras se tramitaba la actuación judicial o se llevaba a término el cumplimiento de la sentencia o de la pena, en este último caso lo más pública y ejemplarizante posible. Por tanto, la pena de prisión era la excepción de un sistema en el que el castigo no poseía el papel reeducativo que adquirirá en la época contemporánea. Galeras (servicio en barcos), presidios (servicio militar), destierros, castigos físicos y ejecuciones públicas eran la norma en materia penal. Es por esa razón que la Cárcel de la Real Chancillería estaba desde sus inicios aneja a la sede del tribunal, con la que se comunicaba físicamente, formando parte del conjunto de edificios bajo su control. Las justicias menores o las jurisdicciones especiales no estaban muchas veces en condiciones de mantener cárceles propias permanentes, pero las Chancillerías, al igual que otras justicias de cierta entidad como las meras Audiencias y los corregimientos, sí tenían cárceles contiguas para facilitar el control judicial y la asistencia a los presos. Eran los propios jueces de cada causa quienes determinaban la prisión y la liberación del reo.

Existe constancia de la existencia de un edificio destinado a cárcel para el tribunal de la Chancillería al menos desde los años ochenta del siglo XV y durante la primera mitad del siglo XVI, antes de que se llevara a cabo entre 1555-1562 la ampliación de la sede de la Chancillería por el trazador Francisco de Salamanca con la construcción del palacio de Felipe II, comunicado con el primitivo palacio de los Vivero. En este momento se elevaron quejas sobre las condiciones en que se encontraban los presos en el edificio de la cárcel primitiva, y es probable que ya se planteara entonces la necesidad de una remodelación, de la misma manera que ocurrió con el edificio del Archivo del tribunal, situado en los corrales y demolido por el cantero Gonzalo de Sobremazas a principios de los años cincuenta del siglo XVI. En varias ocasiones se reiteraron las protestas sobre el estado inapropiado de la cárcel, las penosas circunstancias que padecían los presos y la necesidad de reforma o construcción de una cárcel nueva. Sin embargo, no se volvió a retomar la cuestión de los edificios dependientes hasta principios del siglo XVII con la llegada de Rodrigo Calderón al oficio de archivero, cuyo padre era también alguacil mayor de la Chancillería de Valladolid. Ambos edificios se construyeron sobre trazas de Nicolás Bueno; primero se ejecutó la obra del Archivo a cargo del arquitecto Felipe Berrojo Isla y su maestro de obras Juan Tejedor Lozano, y luego se acometió la edificación de la Cárcel en la parte delantera al anterior, con fachada a la calle principal de San Pedro. En 1610 se pone en funcionamiento, por orden de los alcaldes del crimen, la Real Casa de la Galera o cárcel para "mugeres bagantes y que cometen otros delitos" (Libro de gobierno de la Sala del Crimen, Libros, 1075, f. 76r.). Frente al complejo de la Chancillería y jurisdiccionalmente ajeno, el palacio ocupado por el tribunal de la Inquisición desde 1559 hasta 1809.

La vida diaria de la cárcel estaba administrada por el alcaide de la cárcel y su personal subalterno, que se encargaba de la custodia de los presos y daba cuenta de sus actuaciones a los alcaldes del crimen. Además, existían los oficios de cárcel de mayordomo, cirujano, boticario, enfermera, capellán, escribano de la cárcel y portero, entre otros, todos sostenidos por la Real Hacienda. Al menos en el siglo XVIII funcionaron también otros cargos como llavero o demandadero, ejercidos por reclusos responsables de delitos menores. La Corona no tenía la obligación de mantener a los presos, por lo que éstos debían alimentarse y cubrir otras necesidades con sus propios bienes o con la caridad de la gente, ya que muchas veces la reclusión conducía a la pobreza. Los alcaldes del crimen se hacían cargo de los pobres de solemnidad declarados formalmente como tales tras una información judicial. La cárcel era así un lugar comunicado fluidamente con el exterior, abierto a las visitas y a la asistencia pero también sometido a la discrecionalidad del alcaide y sus subordinados que con frecuencia extorsionaban a los presos o favorecían situaciones de privilegio, a pesar de las disposiciones en contrario. Uno de los cometidos principales de los alcaldes del crimen era la visita a los presos dos veces a la semana, y al menos en una de ellas debían estar acompañados por dos oidores, o bien por los alcaldes de los hijosdalgo o por el Juez Mayor de Vizcaya, si es que había presos de esas salas. Los presos más habituales eran mercaderes o menestrales deudores, mujeres públicas o de mala vida, ladrones esperando a galeras, criminales pendientes de ejecución o castigo y dementes o débiles mentales con comportamiento desvariado, aunque la prisión preventiva podía afectar a cualquiera. La cárcel de la Chancillería de Valladolid era también prisión de tránsito y concentración donde se formaban las cadenas de galeotes con destino a los puertos de embarque, y en el siglo XVIII cadenas de penados.

Por las propias características del sistema penal que hemos mencionado el volumen de presos era pequeño en proporción a la actividad del Tribunal, pero la Cárcel era posiblemente una de las mayores con que contaba el sistema carcelario, que hacía también uso de casas particulares para la reclusión de nobles o de presos importantes. El rey, de forma directa o a través de las Chancillerías, Consejos u otros órganos judiciales, podía avocar cualquier caso para sí en cualquier momento, así que la Cárcel de la Chancillería podía utilizarse como cárcel real de Corte para asuntos no necesariamente enjuiciados por el tribunal, algo a lo que también daban lugar los procesos ejecutivos o los traslados.

Según ha indicado Margarita Torremocha, a finales del Antiguo Régimen la Cárcel de la Chancillería vive un periodo convulso, marcado por los escándalos, el malestar de los presos y las fugas, durante el cual el oficio de alcaide, enajenado por la Corona y propiedad de los condes de Adanero, fue ejercido por la misma persona durante más de veinte años, actuando casi al margen de los alcaldes del crimen: José Gil Rueda. Mientras tanto, los juristas de la misma sala introducían propuestas innovadoras en la Casa de la Galera, dependiente del mismo tribunal.

Como apunta Lourdes Amigo, existen grandes vacíos en el conocimiento de la Chancillería de Valladolid, y el funcionamiento de la Cárcel es uno de ellos. Para su estudio sigue pudiendo recurrirse a la documentación del Gobierno de la Sala del Crimen y del Acuerdo, así como también a los propios pleitos de lo civil y lo criminal que reflejan las circunstancias de los presos, o en los que se ven comprometidos los oficios o asuntos de la Cárcel. Aunque no hay duda de que existieron, la mayoría de los libros registro de visitas, entrada y salida de presos y otros registros administrativos que podían mostrar aspectos particulares de la vida carcelaria, a día de hoy parecen haberse perdido. Se conservan algunos registros fechados entre los siglos XVII y XIX.

Tras la desaparición del tribunal de la Real Chancillería de Valladolid, el edificio de la cárcel fue utilizado por la Audiencia Territorial de Valladolid como cárcel de su partido o distrito hasta la construcción de una nueva cárcel provincial inaugurada en 1935, momento en que el antiguo edificio paso a denominarse "Cárcel Vieja". En 1943 la Junta Regional de Acuartelamiento de Valladolid recibe la propiedad de la Hacienda pública. En los años sesenta del siglo XX coincidiendo con el traslado de sede de la Audiencia Territorial a otro lugar de la ciudad, se transfirió la propiedad del edificio a la Universidad de Valladolid y en la actualidad lo ocupa la Biblioteca Universitaria Reina Sofía.