La decisión de levantar un convento de mercedarios descalzos en Valladolid fue aprobada en el Capítulo General de la Orden celebrado en Madrid en 1606. Con la aprobación y la firma de todos los Provinciales de la Congregación se decide fundar un convento en Valladolid, cuya primera ubicación fue la ermita de Nuestra Señora del Val y San Eloy. Pasados unos años los mercedarios cambiaron ese establecimiento inicial para trasladarse, ya dentro de la ciudad, a unos terrenos situados entre la calle Tudela y la actual Plaza Circular.

Finalmente, en 1613, después de vencer la oposición de sus hermanos Calzados, se organiza el convento de San José en el emplazamiento definitivo, la actual calle de Panaderos. La primera etapa de esta comunidad vallisoletana tuvo como principales benefactores a Agustín de Ángulo, secretario de la Real Chancillería, y a su esposa Ana María de Castro y Otáñez, que concedieron los terrenos y casas que habían comprado al hospital de Esgueva para levantar en ellos la iglesia y las dependencias conventuales.

Durante los años posteriores la orden mercedaria se arraigó en Valladolid y fue aumentando tanto en el número de posesiones como en el de miembros dentro de su comunidad, si bien no parece que nunca llegó a superar el medio centenar, oscilando entre 46 en 1645 y 33 en 1787. De su actividad lo más conocido era la práctica del rezo del rosario que los frailes practicaban, día y noche, por la ciudad. Una costumbre que arraigó en Valladolid y que derivó a celebrar grandes procesiones el día del Rosario, partiendo de la Catedral y recorriendo las calles del centro de la ciudad.

En 1809, los mercedarios se vieron obligados a abandonar el convento, las instalaciones fueron asaltadas y utilizadas como cuartel y prisión por los franceses. Al finalizar la guerra, en 1812, dado el mal estado en que había quedado el edificio, fue demolido para aprovechar su madera. Con la restauración decretada por Fernando VII, los mercedarios descalzos intentaron volver a establecerse pero, al encontrarse el edifico destruido, se trasladaron temporalmente al antiguo Hospital de San Juan de Letrán donde acondicionaron las instalaciones para llevar a cabo la vida conventual. Con la Desamortización el antiguo Hospital salió a subasta y la comunidad mercedaria del convento de San José desapareció definitivamente.