L'Abbazia di Santa Maria di Cerrate, situata sulla strada provinciale che collega Squinzano a Casalabate, è uno dei più significativi esempi di romanico in Puglia.

La chiesa romanica ha un prospetto monocuspidale animato da una serie di archetti che fa comprendere la spartizione interna della struttura. La facciata presenta un piccolo rosone al centro, una monofora per lato e un duecentesco portale nel cui intradosso son figurati i rilievi dell'Annunciazione della Vergine, della Visita a Santa Elisabetta, dei Magi e della Fuga in Egitto.

Lungo il lato sinistro del tempio, fa bella mostra di sé un portico, risalente al XIII secolo, impreziosito da colonne cilindriche e poligonali che reggono dei capitelli figurati. Di fronte al portico è presente un pozzo ornamentale del XVI secolo.

L'interno è a tre navate ed è coperto da un soffitto costituito da travi, canne e tegole. Del 1269 è il baldacchino posto sopra l'altare maggiore. Di notevole interesse sono gli affreschi duecenteschi e trecenteschi: nelle absidi (Cristo in gloria, Angeli e Santi); nei sottarchi (Santi), lungo le pareti (Vergine col Bambino e Santi). Durante i lavori di restauro furono staccati dalla chiesa alcuni affreschi e trasportati nel vicino museo nel quale sono tuttora esposti: (Dormitio Virginis, Annunciazione della Vergine, Miracolo della cerva, San Giorgio con la principessa, Sant'Anna e San Gioacchino con Maria Vergine, San Demetrio, San Michele e altri Santi).