Costruito dalla famiglia modenese dei Sadoleto con dedicazione alla Beata Vergine del Carmine, era annesso al monastero in cui si insediarono i frati Carmelitani, nella strategica posizione sulla via Emilia, presso Porta Bologna. Secondo una lapide all'interno, sulla porta laterale, la chiesa sarebbe sorta nel 1319.

Dedicata all'Annunciazione della Vergine, la chiesa assunse il titolo di San Biagio nel Carmine nel 1768, dopo che vi venne trasferita la cura parrocchiale dell'antica San Biagio che sorgeva sulla via Emilia, demolita con la rettificazione di questa strada. 

Del medievale tempio gotico la chiesa conserva l'involucro esterno, con tracce di archi tamponati nel fianco verso la via Emilia, e nella struttura interna, che si presenta a unica grande navata con arcate gotiche, a sesto acuto, e volte a crociera. Un importante intervento edilizio risale al 1478 a spese della benefattrice Bartolomea Francesca Zarlata; questa fece realizzare anche il bel pulpito in marmo del 1481. Sulla metà del Seicento, su committenza del carmelitano p. Angelo Monesi e col sostegno del duca Francesco I d'Este, la chiesa ricevette una veste interna improntata da un fastoso gusto barocco, in linea con il classicismo scenografico dell'architettura estense. Dal 1649 al 1653 Cristoforo Malagola detto il Galaverna - architetto che fiancheggiava in questi anni il noto Gaspare Vigarani nel cantiere della chiesa di San Giorgio - trasformò l'interno nascondendo le nervature gotiche entro lesene in stucco, mentre coppie di colonne "libere" sostengono il solenne arco trionfale che sigla l'attacco dell'aula con il presbiterio, sopraelevato come un palco teatrale, su cui si eleva la cupola. Il presbiterio, d'impianto quadrato, introduce al profondissimo coro definito dall'abside. Il vasto catino absidale, come la cupola e i quattro pennacchi si cui questa s'imposta, furono affrescati fra il 1654 e il 1656, da Mattia Preti detto il Cavaliere Calabrese, rispettivamente con Angeli musicanti, il Paradiso e gli Evangelisti: straordinario ciclo pittorico, dove Preti, seguace di Caravaggio, sia accosta ai modi degli emiliani Correggio e Guercino.

Nell'importantissimo arredo, si segnalano la pala del terzo altare di destra con il carmelitano Sant'Alberto di Sicilia, del manierista modenese Gian Gherardo dalle Catene, del 1530 circa; sull'altare maggiore, l'Annunciazione del tardo manierista Giovan Battista Codebue, del 1596, entro fastosa cornice barocca; sul quarto altare di sinistra, Santa Teresa d'Avila - riformatrice del Carmelo - e San Giuseppe del veronese Gian Bettino Cignaroli, del 1754; nel battistero, Il battesimo di Cristo del modenese Giovan Battista Ingoni, di fine '500.

La splendida sagrestia, d'impianto quadrato, possiede una volta affrescata da grandi maestri bolognesi della quadratura, che restituisce illusionistiche prospettive architettoniche tramite la pittura: Girolamo Curti detto il Dentone e gli allievi Angelo Michele Colonna e Agostino Mitelli vi dipingono verso la metà del '600 Elia sul carro di fuoco. Le pareti sono ricoperte da importanti mobili da sagrestia e ornate da ritratti di carmelitani; nella parete sud si apre la cappella con l'altare, piccolo gioiello barocco, con pala della Madonna col Bambino e santi carmelitani.

Il piccolo ambiente adiacente, con antico soffitto a cassettoni, presenta, sulla parete meridionale, l'affresco della Madonna col Bambino, capolavoro di Tomaso da Modena, fra i più noti maestri del neogiottismo nel nord Italia, databile verso la metà del Trecento.

Il suggestivo chiostro trecentesco - uno dei chiostri dell'antico convento carmelitano - fu ristrutturato in epoca rinascimentale, ma conserva archi gotici nel lato settentrionale; verso l'uscita, nell'androne sulla sinistra, sotto un'arcata un pregevole affresco della seconda metà del Trecento con la Madonna col Bambino, San Martino e il committente.