En el año 1594 fue elegido padre provincial de los carmelitas descalzos de Aragón, fue él mismo, un viaje que realizaba a Lérida, el que decidió fundar un convento descalzo en Zaragoza, donde ya estaban asentadas las monjas de la misma orden. El arzobispo no tuvo ningún inconveniente y así, el 18 de diciembre de 1594, se colocaba el santísimo.

Muchos frailes se quejaron por las incomodidades de ese asentamiento, por lo que, transmitiendo las quejas a Felipe II, el cual intervino, lograron conseguir la licencia para mudarse a otro emplazamiento. Fue el prior fray Tomás de Jesús, el que busca un nuevo lugar fuera de la ciudad, cerca del río Huerva. El convento, cuyo titular era San José, funcionó como noviciado, llegando a acoger un total de 2000 novicios en toda su historia.

El siglo XIX trajo una serie de acontecimientos que desembocaron en el fin del convento. Una primer golpe lo recibieron durante la Guerra de la Independencia, durante la cual el convento fue destruido. Los frailes lograron regresar en 1815, una vez terminada la contienda, y emprendieron unas obras de reconstrucción que terminaron en 1825.

Diez años más tarde los frailes tienen que volver a abandonar el convento a raíz de un motín anti-clerical, circunscrito al contexto de la I Guerra Carlista. También en 1835 los decretos de exclaustración de Mendizábal acaban definitivamente con la vida del convento.