No se sabe cuándo fue fundado exactamente el Monasterio de Santa María de Oia, pero la referencia documental más antigua es del primer tercio del siglo XII. Al principio había otras dos comunidades monásticas junto a Oia: San Cosme y San Damián en Baiona y San Mamede de Loureza en el valle de O Rosal. Sin embargo, las dos comunidades acabaron uniéndose a Santa María de Oia para establecer un único monasterio benedictino en la región. El monasterio no se incorporó a la Orden del Císter hasta 1185.

El monasterio acumuló un gran patrimonio que se extendía hasta Lisboa gracias a las donaciones de los reyes leoneses, castellanos y portugueses. El 23 de abril de 1149, el rey Alfonso VII de León, que ya había concedido varios privilegios al monasterio con anterioridad, entregó a Santa María de Oia los dominios reales de Mougás, Viladesuso y Pedornes. Posteriormente, el rey Alfonso XI de León le concedió varias heredades. Los monarcas portugueses también le concedieron diversos privilegios. Además, el 11 de abril de 1201 el monasterio recibió el realengo de Saa y la iglesia de Erizana. En 1228 obtuvo la isla de San Martiño, junto a la costa de Vigo.

En 1286 el rey Sancho IV de Castilla puso al servicio del monasterio a 20 pescadores. Sin embargo, debido a la bravura de la costa de Oia, al año siguiente se les autorizó a pescar en el coto de Malvas. Los monjes también criaban caballos en los montes del monasterio.

El monasterio sufrió las consecuencias del Cisma de Occidente (1378-1417), debido a que Castilla apoyó al papa de Avignon y Portugal al de Roma. El abad fray Gonzalo de Silva, que apoyaba al pontífice romano, abandonó el monasterio y se refugió en la granja de Silva, en territorio portugués. Su sucesor, fray Rodrigo de Figueroa, solicitó la protección del reino de Castilla por temor a un ataque de su antecesor con apoyo portugués.

El monasterio sufrió una grave crisis en el siglo XV debido al gobierno de los abades comendatarios y a la pérdida de muchos de sus bienes. Sin embargo, el monasterio se resistió a entrar en la Congregación de Castilla hasta octubre de 1547. Fue el último monasterio gallego en hacerlo.

Debido a su emplazamiento, el monasterio también cumplía una función defensiva. Desde el siglo XIV, los reyes Alonso XI y Pedro I de Castilla eximieron a los vasallos del monasterio de trabajar en otros señoríos para participar en la defensa de Santa María de Oia. Además, el monasterio disponía de una compañía de soldados formada por un capitán, un alférez, varios oficiales y los vecinos de la jurisdicción de Oia. Hacían guardia permanente en el puerto de Brandariz y el río de Oxos en caso de ataques corsarios. Los soldados respondían ante el abad, que tenía el rango de general. El monasterio también disponía de su propio armamento: a finales del siglo XVI contaba con 41 arcabuces y 136 picas y desde 1618 dispuso de su propia batería de artillería.

La Guerra de la Independencia (1808-1814) interrumpió la vida del monasterio. Los monjes tuvieron que abandonar el edificio, aunque pudieron volver tras el fin del conflicto. El monasterio fue cerrado durante el Trienio Liberal (1820-1823) debido a la supresión de las órdenes monásticas por la Ley sobre monasterios y conventos de 25 de octubre de 1820. El edificio sufrió daños considerables, aunque fue restaurado después de la caída de los liberales. El monasterio fue suprimido definitivamente por los decretos de exclaustración de 1835. La iglesia continuó abierta al culto como parroquia durante varios años.