I reperti ritrovati testimoniano che la zona di Carpi fu abitata già nell'età del Bronzo (XVI sec. a.C.). In epoca romana il territorio fu occupato da insediamenti rustici all'interno del reticolo della centuriazione.

Il primo nucleo abitativo a carattere urbano sorse solo nell'VIII secolo sotto il dominio longobardo, attorno alla pieve di Santa Maria in Castello. La leggenda narra che la città fu fondata dal re longobardo Astolfo nel luogo in cui venne ritrovato il suo falcone da caccia, su un albero, il carpine, che dà, appunto, il nome alla città. Castrum fortificato nel X secolo, a difesa dagli Ungheri, appartenne a Matilde di Canossa e, dal 1327, ai Pio che ne fecero la sede della loro signoria.

Dall'ultimo decennio del Quattrocento e il 1525 il conte Alberto III Pio, raffinato umanista, nipote del celebre filosofo Giovanni Pico della Mirandola, trasformò il complesso castellano in palazzo, residenza feudale tra le più sontuose dell'area padana. Nel mentre l'abitato medievale assumeva il volto di "città ideale", perfetta capitale del Rinascimento ridisegnata dal profilo urbanistico e qualificata con importanti presenze monumentali; per alcune di esse, Alberto III ottenne idee progettuali per il proprio palazzo, per edifici religiosi e, probabilmente, per il Portico del Grano da Baldassarre Peruzzi, allievo di Raffaello, all'epoca attivo nei cantieri pontifici; la realizzazione di questi progetti fu poi affidata a maestranze locali, come la famiglia di capimastri Federzoni. Alberto III si avvalse per i cicli affrescati nella sua dimora di pittori di corte, fra cui spiccano Giovanni Del Sega e Bernardino Loschi, rivolgendosi anche ai noti veneti Cima da Conegliano e Vincenzo Catena. Nel 1525, con la sconfitta dei Francesi suoi alleati, Alberto III Pio perde Carpi e il suo piccolo stato, che dal 1527 verranno inglobati nei domini estensi. 

Eccezionale è la qualità del patrimonio d'arte delle chiese di Carpi, dovuta all'esistenza di un tessuto sociale di nobili, alti prelati e cospicui borghesi che sviluppò una committenza di prestigio, anche quando, terminata la signoria dei Pio, la città fu privata della sua autonomia e ridotta a provincia estense. Oltre alla piazza dei Martiri, la terza in Italia per ampiezza, alla pieve della Sagra e al Duomo, in un tessuto urbano stratificato nei secoli, tanti sono i palazzi e le chiese, molte di esse duramente colpite dal sisma del maggio 2012 e attualmente non accessibili. La bella chiesa di San Francesco conserva affreschi del gotico "internazionale"; la rinascimentale San Nicolò, eretta su moduli bramanteschi con idee di Peruzzi, vero "museo" della scagliola carpigiana, e il complesso già conventuale di San Rocco, ora auditorium. Sull'odierno corso Fanti sorgono il monastero di Santa Chiara, del '400; quasi a fronte, la barocca Sant'Ignazio con il Museo Diocesano d'Arte Sacra, un tempo annessa al convento dei gesuiti; non lontana, San Bernardino (eretta dal 1605) con un dipinto di Jacopo Palma il Giovane, e la settecentesca chiesa del Crocefisso.

Durante la seconda guerra Mondiale a Carpi si è scritta una delle pagine più drammatiche della lotta antifascista e della deportazione degli ebrei di cui sono testimonianza il Campo di Fossoli e il Museo monumento al deportato.

Straordinaria anche la storia dell'imprenditoria carpigiana: celebri nel Sei e Settecento i suoi laboratori di scagliola, tipico artigianato artistico; le manifatture della lavorazione del truciolo con esportazione dei cappelli anche all'estero - tra i maggiori produttori del primo Ottocento, i Menotti, la famiglia di Ciro, noto per l'insurrezione carbonara del 1831 - e nel Novecento la camiceria, la maglieria e l'abbigliamento, con brand di prestigio internazionale.

Oggi Carpi è al centro di un distretto industriale per il Tessile-Abbigliamento tra i più importanti in Italia.

Carpi è anche una città vivace, ricca di proposte culturali come il Festival della Filosofia e la Festa del Racconto ed iniziative sportive come la Maratona d'Italia, mantiene la sua tradizione in campo eno-gastronomico, dove si distingue per la bontà dei suoi prodotti tipici. E' rinomata per la produzione del lambrusco Salamino di Santa Croce.