Il museo, che un tempo occupava una sola sala al primo piano detta "sala ovale", occupa oggi cinque stanze contigue a piano terra. Nell'atrio sono esposte fotografie e litografie riguardanti il tenore. Nella prima sala, detta "del biliardo", vi sono le memorie legate alla vita di Rubini e dei suoi più stretti familiari: ritratti, arredi, vesti. Nella seconda sala vi sono i ricordi di Rubini cantante; è detta "del pirata" per l'affresco del personaggio che gli aveva dato la fama. E' un grande salone dove avvenivano le audizioni musicali e le feste. La terza sala, con soffitto affrescato, raccoglie arredi e oggetti che decoravano gli ambienti dove viveva la famiglia. Presenta anche quadri che mostrano luoghi raggiunti dal tenore nella sua attività. Nella quarta sala, arredata come quadreria, sono esposte le moltissime stampe che Rubini acquistava nelle grandi capitali europee, oppure riceveva in dono.

La vedova del tenore volle anche, con lascito testamentario e per rispetto della volontà del marito, che tutti gli immensi beni accumulati dal Rubini in vita, fossero lasciati ad alcuni enti cittadini in favore di cantanti poveri e che, nel palazzo, fosse fondata una scuola superiore.