Lo storico palazzo De Vio, appartenuto al Cardinale Tommaso De Vio, ospita oggi il Museo Diocesano, nato negli anni Cinquanta come museo-archivio per custodire reperti dell'età classica e del periodo medievale, testimonianze della storia di Gaeta.
Nelle sale del museo è possibile ammirare dipinti di Riccardo Quartararo, Teodoro d'Errico Fiammingo, Girolamo Imparato, Quentin Metsis, Luis de Morales, Fabrizio Santafede, Andrea Vaccaro, Giacinto Brandi, Luca Giordano, Francesco Solimena e Pompeo Batoni. E' esposto, anche, lo Stendardo di Lepanto quadro (olio su tela) del pittore Girolamo Siciolante, che raffigura su i due lati, il Crocifisso tra i Santi Pietro e Paolo. In una sala particolare sono esposti due croci bizantine; l'ostensorio ed il calice di Pio IX a Gaeta negli anni 1848-49 e tre Exultet medievali su pergamena.