Il museo aperto al pubblico comprende la pinacoteca con dipinti dal XIII al XVIII secolo e il chiostro che conserva frammenti architettonici, lapidi, sarcofagi e oggetti vari provenienti dall'antica basilica e dagli scavi del monastero. L'importante raccolta di epigrafi cristiane e lapidi sepolcrali nonché i 42 medaglioni ad affresco con i ritratti dei papi (dal V al IX secolo), dislocati al piano superiore del monastero, sono invece visitabili solo con permesso speciale.