La chiesa, come rivelano le colonne della sua cripta, è una delle pievi più antiche della diocesi bolognese. Dopo un primitivo romitaggio, furono i Canonici Regolari di San Frediano di Lucca, a metà del secolo XII, a porre mano alla ricostruzione del complesso nelle odierne forme romaniche.
Superato un momento di decadenza, Santa Maria tornò fiorente nel 1456 con Canonici Lateranensi, che attuarono vari restauri o ampliamenti.