La fundación del convento dominico de Carrión de los Condes fue una iniciativa de fray Martín de Nieva, el cual había comenzado los trámites para tal fin el 30 de abril de 1525, cuando tomó posesión de la iglesia de San Pedro, donde se asentaría el futuro convento. La cesión del templo y fundación oficial del convento por parte del obispo de Palencia, Pedro Ruiz de Sarmiento fue realizada casi dos años después, el 19 de marzo de 1527. La escritura episcopal de la fundación se redactaría el 3 de abril del mismo año, y el 23 de junio los frailes, representados por fray Martín de Nieva, toman posesión del convento. Los clérigos que ya habitaban en San Pedro, recibieron en compensación una dotación para trasladarse a la iglesia de San Andrés.

La construcción de las principales dependencias conventuales y la iglesia se desarrollaron a lo largo de los siglos XVI y XVII a partir de las donaciones de los fieles, ya que fue un convento modesto y de pocos frailes, en el siglo XVII la comunidad constaba de 20 internos. Para la construcción de la capilla mayor del templo, dedicada a la Virgen del Rosario y realizada en 1580, contaron con el patronato del deán de Cuenca, Juan Bautista de Espinosa. Años más tarde, en 1616, se llevaron a cabo reformas debido al deterioro que sufría la capilla.

En la entrada del siglo XIX el convento vivirá una etapa de decadencia en la que ha bajado el número de religiosos y los problemas económicos lastran la vida del convento. En 1809 al convento le es aplicado el decreto de supresión de ordenes religiosas de José I, por lo que los monjes son exclaustrados. Con el estallido de la Guerra de la Independencia, el convento sufrirá graves daños y destrozos a raíz de un incendio provocado por un grupo de guerrilleros con Santos Padilla al frente, a esto hay que unir la extracción de piedra y madera por parte de los vecinos de Carrión, lo que agravó el estado del edificio. Durante el Trienio Liberal la comunidad sufrió una segunda exclaustración, esta vez al ejecutarse la Ley sobre monasterios y conventos de 1820. Los frailes regresaron, pero en 1835 se produciría la exclaustración definitiva a raíz de los decretos que suprimieron la mayoría de los conventos masculinos españoles.