Existe discrepancia entre los investigadores sobre la fecha exacta de la fundación y los primeros siglos de la historia de San Pedro de Rocas. Su singularidad viene por ser el único monasterio de carácter rupestre del noroeste peninsular ya que su iglesia está excavada en la roca, sirviéndose de una montaña como elemento condicionante de toda su estructura, de ahí su denominación. Además, destaca por los sepulcros antropomorfos excavados en la roca del suelo por los propios monjes que lo habitaron.

San Pedro de Rocas junto a otros monasterios que jalonan las orillas del Sil forma parte de ese espacio que se conoce como Ribeira Sacra. Gracias a una lápida perteneciente a este Monasterio, conservada en el Museo Arqueológico de Orense, se puede hablar de la fundación de una ermita en el lugar en el año 573, lo que le convierte en uno de los testimonios más antiguos de la cristiandad en Galicia.

Debido a la invasión musulmana parece que estuvo abandonado desde el primer tercio del siglo VIII hasta finales del siglo IX y su repoblación, según la tradición, se atribuye a unos caballeros que decidieron establecerse como eremitas siguiendo a un cazador llamado Gemondo que encontró el lugar y decidió quedarse allí. A partir de entonces volvió a ser habitado y fue Alfonso III, en el año 906, el que concedió al Monasterio rentas para treinta monjes, privilegios de obediencia, villas y heredades.

A mediados del siglo X se implantó en él la regla benedictina y, según algunos autores, se unió al Monasterio de Celanova, aunque hay otras corrientes que retrasan esa unión al siglo XII e incluso a finales del XV, cuando se propone la reforma benedictina.

A partir del siglo XI continuó recibiendo cuantiosas donaciones y privilegios de particulares y monarcas como el otorgado el 23 de abril de 1007 por Alfonso V en el que confirma todas las donaciones que Alfonso III y varios de sus sucesores habían hecho a su favor.

En el siglo XII San Pedro de Rocas vivió su etapa de máximo apogeo, aunque nunca llegó a convertirse en un gran monasterio. La sucesiva concesión de privilegios y donaciones reales no impidieron la existencia de conflictos con los nobles de la comarca, que se prolongarían en periodos sucesivos, hasta que en 1506 fue incorporado a la Congregación de San Benito el Real de Valladolid.

San Pedro de Rocas nunca albergó un gran número de monjes y aunque la vida conventual se prolongó hasta la exclaustración, con la desamortización el abandono fue total y, al igual que ocurrió con otros monasterios, sufrió continuos saqueos. En la actualidad quedan en pie la iglesia y la casa prioral, reconstruida en el siglo XVII después de un incendio.