Fra le pievi dell'Appennino modenese, questa di Rocca Santa Maria, citata dal 971, è fra le più antiche e suggestive.

Sorta su una rupe quasi inaccessibile che domina la pittoresca valle del torrente Fossa, era annessa a un antichissimo fortilizio che faceva parte di una serie di torri e luoghi fortificati a presidio della vallata, con Nirano, Fogliano, Torre delle Oche e Spezzano.

Dal 1038 appartenne al marchese Bonifacio di Toscana e quindi a sua figlia Matilde di Canossa, che la cedette  nel 1108 al vescovo di Modena.

La datazione delle origini della pieve è controversa; risalirebbe a epoca preromanica e per taluni studiosi all'VIII-IX sec.

I restauri eseguiti tra il 1913 e il 1937 hanno voluto restituire alla chiesa l'aspetto romanico, rifacendo la facciata in pietra e realizzando la copertura in capriate lignee. L'interno, a tre navate, possiede un fascino raccolto e solenne, con le ampie arcate che appoggiano su quattro colonne e semicolonne basse e poderose.

Gli splendidi capitelli databili all'XI secolo, in stile preromanico o romanico precoce, sono ornati da intrecci vegetali, con foglie e fiori stilizzati, nastri e volute, e sono ritenuti fra i più belli del Nord Italia.

La base della seconda colonna di destra ha i paraspigoli scolpiti con teste di animali - leone, caprone, orso, grifone -  che simboleggiano il male schiacciato dalla Chiesa. Il pilastro a sinistra dell'altare maggiore conserva un antico tabernacolo, scavato e ornato dai simboli eucaristici di un calice e spighe stilizzate.

Di interesse all'esterno della Pieve, nei pressi dell'antica Rocca, una campana con lo stemma gentilizio dei Da Savignano e la data 1370. L'antico bronzo fu regalato alla comunità di Rocca Santa Maria da Ugolino da Savignano, Signore di quei luoghi e della Podesteria di Monfestino.

Alla metà del Settecento subì la sopraelevazione della navata centrale, che determinò la struttura monocuspidale della facciata, in origine "a capanna" con due semplici spioventi. Furono anche tamponate le due piccole absidi laterali; ora rimane l'abside centrale, con tracce di archetti pensili, che ha orientamento liturgico a est, cioè verso il sorgere del sole la cui luce è metafora della grazia divina.