El fundador de este convento fue Fernando III, quien conquistó Córdoba en 1236. A fin de edificar un monasterio, donó a unos agustinos, procedentes de Castilla y que le acompoñaban en sus campañas, unos terrenos extramuros sobres los que se edificó un convento conocido como San Acacio.

Más tarde, en 1312, la comunidad de frailes se mudó al Castillo Viejo de la ciudad. Dicha mudanza fue producto del peligro que corría la comunidad fuera de la ciudad, antes las acometidas árabes y resultado de una concesión del papa Clemente V. No obstante, no sería este su asentamiento definitivo, ya que en 1328, por orden de Alfonso XI, que utiliza los terrenos del convento para construir un alcázar, se mudan de nuevo al que ya sería su convento definitivo. Es ahora cuando se toma el nombre de San Agustín.

Fernando IV concedió al convento 20.000 maravedíes de renta en privilegio dado en Burgos el 8 de septiembre de 1345, tres años más tarde el mismo rey concedió al convento el agua de Ruzafa.

Fué un centro de intensa actividad cultural, ya que además de ser noviciado, poseía estudios de Matemáticas, Filosofía, Teología y Sagrada Escritura. También tuvo el convento imprenta propia desde 1699.

En la Guerra de la Independencia, el ejército francés convirtió el convento en cuartel. Termianda la contienda, los frailes regresaron. En 1835 el convento cierra definitivamente tras aplicarse los decretos de exclaustración de Mendizábal.