Se constata la presencia de los mercedarios en la ciudad ya desde finales del siglo XVI gestionaron el hospital localizado en la ermita de San Roque, levantada por el Ayuntamiento en 1582 por haber liberado a la ciudad de la epidemia de la peste. Pasado algún tiempo se vieron obligados a evacuarla, ya que la misma fue derribada por necesidades de obras de fortificación en las Puertas de Tierras (puertas de la ciudad).

Los religiosos intentaron por todos los medios establecerse en Cádiz. Los promotores que lo favorecen, fueron Fernando de la Cerda y Olivares y su esposa Constanza Dávila, quienes en 1626 lograron que Fray Domingo de los Santos iniciara unos trámites fundacionales, no sin complicaciones pues la competencia con otras órdenes por la limosna provocó el rechazo a la apertura de nuevos conventos. Debido a las muchas vicisitudes y la enorme perseverancia de Fray Domingo de los Santos, consiguieron las licencias oportunas, el 10 de marzo de 1629, para ubicar la iglesia y convento en unas casas tomadas a Don Álvaro de Gramaja, situadas en el barrio de Santa María. La construcción de la iglesia se concluyó en 1638. Era el convento más importante de la reforma en 1774, pues contaba 83 frailes y debían reducirse a 62 con 136.876 reales.

Con las leyes desamortizadoras de Mendizábal, en ele S.XIX, el Convento de la Merced quedó desierto y abandonado. Su iglesia sufriría daños en las revueltas deI año 1931.

Tras la exclaustración del convento los edificios pasaron a manos privadas para uso industrial y después de algunos años y de ser en parte mutilado para la creación de una plaza el Ayuntamiento de Cádiz, mediante una declaración del 13 de junio de 1873 se incautó del templo mercedario y el 29 del mismo mes sacaba a subasta los enseres de la iglesia. En 1875, regresaba a su templo la Virgen de la Merced.

En 1936 la Parroquia de Nuestra Señora de la Merced sufrió un asalto y fue incendiada, perdiéndose todo el patrimonio.

Del templo original sólo se conservan la portada y la torre.