No se conoce la fecha exacta de la fundación del Convento de San Agustín de Salamanca, pero hay documentos históricos que señalan la existencia de una donación de terrenos a la comunidad de agustinos de la ciudad en 1163, aunque es posible que los frailes ya estuviesen en Salamanca incluso con anterioridad. En cualquier caso, el primer prior del convento, fray Alonso, no fue nombrado hasta 1339. Tradicionalmente, sin embargo, se había interpretado la donación por parte del obispo de Salamanca, Alonso Barrasa, de la iglesia de San Pedro a los agustinos el 11 de septiembre de 1377 como la fecha oficial de fundación. Los terrenos del convento se ampliaron en 1477, cuando Inés López, viuda de Álvaro Rodríguez de Monroy, donó a los frailes la finca de La Flecha. Aunque el convento estuvo dedicado a San Pedro desde la donación de la iglesia, a partir del siglo XVI se generalizó la denominación de Convento de San Agustín.

El convento tuvo rango de colegio universitario de teología desde 1422, y dispuso de una casa de noviciado. Muy pronto adquirió fama por su selecto profesorado y su excelente biblioteca. Los frailes también ejercían la confesión y la predicación y asistían a los moribundos. Sin embargo, la integración en la llamada Congregación de la Observancia en 1451 supuso importantes problemas debido a que esta congregación impuso inicialmente un abandono casi total de los estudios. Finalmente, se llegó a un equilibrio entre el rigor de la observancia y la dedicación a los estudios. De hecho, entre los siglos XVI y XVIII el convento fue la principal casa agustiniana de estudios en España: allí profesaron o enseñaron frailes célebres como San Juan de Sahagún o fray Luis de León. Además, en 1533 María de Zúñiga, viuda del Duque de Béjar, dotó al convento de otro colegio universitario adjunto para 50 teólogos con vocación misionera en Indias: el Colegio de San Guillermo, con un régimen interno independiente desde 1587.

El convento sufrió varios incendios a lo largo de su historia. El más grave de todos ocurrió el 9 de octubre de 1744 debido a que redujo los edificios casi completamente a cenizas. En ese incendio, los fondos más valiosos de la biblioteca fueron enteramente destruidos.

Durante la Guerra de la Independencia, las tropas francesas expulsaron a los frailes del convento el 18 de septiembre de 1809 y lo ocuparon. En 1810, el convento volvió a incendiarse y los franceses demolieron los restos. Después de la guerra, se intentó restaurar el convento, pero la Ley de monasterios y conventos de 25 de octubre de 1820 (que suprimía todas esas congregaciones religiosas) impidió reanudar los trabajos hasta 1826. Sin embargo, nunca llegaron a terminarse. El Real Decreto de 25 de julio de 1835, que suprimía los monasterios y conventos con menos de 12 religiosos profesos, obligó a los frailes a abandonar el convento el 20 de agosto. Ese mismo año fue demolido el edificio.