Fu edificata approssimativamente tra il 1095 e il 1111 circa, al tempo dell'Arcivescovo Dalberto. Un documento del 1174 indica infatti che la pieve, il campanile, un chiostro ed un mulino annessi alla pieve furono edificati al posto di una cappella preesitente sul terreno dell'Arcivescovato di Pisa. La Diocesi di Pisa fu elevata ad Arcidiocesi solo nel 1092, stabilendo quindi un termine post-quem per l'edificazione della chiesa. Tradizionalmente la chiesa è associata a Daiberto, in carica come arcivescovo di Pisa dal 1092 al 1098, permettendo quindi di stabilire che la chiesa fu iniziata in questa finestra di tempo. Nel 1111 la reliquie di Ermolao, cui la chiesa è dedicata, furono qui traslate, come riportato su un pilastro dell'altare maggiore, di nuovo stabilendo un termine ante-quem per la fine della costruzione, almeno di gran parte della chiesa.

In origine la chiesa seguiva probabilmente l'impianto tipico del Romanico Pisano con tre navate voltate a capriate lignee, sostenute da muri spessi, illuminate da sottili finestre e suddivise in otto campate con archi a tutto sesto, abside unica al termine della navata centrale e assenza di transetto.

Tra le opere, due dipinti di Aurelio Lomi, una tavola con la Madonna col Bambino di Jacopo di Michele detto il Gera e quanto rimane (il volto) di una croce dipinta del XII secolo. L'opera più importante è sicuramente il fonte battesimale del XII secolo, che reca nella faccia anteriore le raffigurazioni a di Gesù Cristo, di san Giovanni Battista, della Vergine e di due Angeli. Costituisce una delle più importanti testimonianze dei caratteri neoantichi assunti dalla scultura nell'area pisano-lucchese. Ulteriori citazioni classiche sono costituite dalla raffigurazione del fiume Giordano in forma umana e dall'inserimento di angeli-genii.