La tradizione locale, non suffragata da documenti, ricorda la fondazione dell'insediamento religioso da parte dei canonici regolari premonstratensi nella seconda metà del XII secolo, con intitolazione originaria a san Macario, i quali si trasferirono presto a Roma (1231) lasciando l'edificio abbandonato. Alcuni decenni dopo vi si erano insediati i Servi di Maria, ai quali spetta la dedicazione della chiesa alla Madonna della Verità.

L'interno si presenta a croce latina con una profonda navata unica di forme romaniche, su cui si innestano gli altari rinascimentali e il transetto gotico, introdotto da un grande arco ogivale su quattro colonne pensili. L'interno è rischiarato da monofore e bifore. La copertura è a capriate lignee, decorate da pianelle dipinte, in gran parte ricostruite dopo la guerra ma con alcune originali del XV secolo, con firma di Paolo di Matteo. In controfacciata si trova un affresco staccato attribuito a Lorenzo da Viterbo o al Balletta, con l'Annunciazione (copia da quella nel Pantheon di Melozzo da Forlì) e i Santi Antonio Abate, Marta e Maddalena.

Segue la cappella Mazzatosta, ambiente originale del XV secolo (compresi la grata e il pavimento maiolicato), con un ciclo di affreschi di Lorenzo da Viterbo e aiuti (1469), commissionato da Nardo Mazzatosta e oggetto di un minuzioso restauro dopo la seconda guerra mondiale.

L'edificio del convento è oggi occupato dal Museo civico, compreso il chiostro gotico a pianta quadrata, decorato da elaborate quadrifore, con un loggiato superiore rinascimentale e al centro un pozzo di cisterna del 1536, proveniente dal distrutto monastero di Sant'Agostino.