Non è nota la data esatta della fondazione dell'abbazia, ma si sa che nel 1127 era officiata dai canonici regolari di Sant'Agostino, dunque è verosimile che il complesso sia stato costruito all'inizio del XII secolo o alla fine dell'XI secolo. Alla fine del secolo, all'abbazia erano già affiliate altre dieci chiese della zona, alle quali se ne aggiunsero altre quattro durante la prima metà del Duecento, indice dell'importanza acquistata in breve tempo. Questo periodo, dunque la prima metà del Duecento, può considerarsi il periodo più florido per l'abbazia, dopodiché ha inizio un rapido e inesorabile declino, dato soprattutto dalla scarsità di risorse economiche. Nel 1261 l'abbazia passa ai frati dell'Ordine Teutonico, che ne fanno il centro della loro attività in Puglia, rimanendovi fino alla seconda metà del Quattrocento. Usciti di scena anche i teutonici la gestione della chiesa, ormai considerata Badia, viene assegnata in commendam ai cardinali delle diocesi locali.

Nel 1527, durante l'assedio di Manfredonia, le truppe di Odet de Foix occupano il convento, ma non dovettero procurare troppi danni se già nel 1538 la chiesa risulta officiata. Nel Seicento la chiesa passa ai frati minori i quali, durante la loro gestione, operano alcune modifiche al convento. Nel 1763, ad esempio, viene costruita ciò che oggi è la parte ancora abitabile del convento. I francescani lasciano la chiesa all'inizio dell'Ottocento, portando con sé l'originale simulacro ligneo di san Leonardo del Duecento, la statua della Madonna e le reliquie del corpo di san Celestino Martire, che vengono trasferite alla chiesa di Santa Maria delle Grazie di Manfredonia. Il Re di Napoli Gioacchino Murat, con decreto del 21 gennaio 1809, sopprimendo l’ospedale di San Leonardo, ne assegnava le rendite all'ospedale di Foggia, con l'obbligo di ricevere a mantenere gli infermi della zona di San Leonardo. L'abbazia viene completamente abbandonata. Il complesso subisce una serie di danni durante la seconda guerra mondiale, riparati nell'immediato dopoguerra da don Silvestro Mastrobuoni, che riapre la chiesa al culto e ne diventa parroco. Attualmente funge ancora da sede della parrocchia di Siponto.