Il museo è ospitato in un edificio ottocentesco sorto sopra i palazzi imperiali della Domus Flavia e la Domus Augustana in cima al colle. Riaperto dopo decenni di restauri mostra reperti di scavo rinvenuti dal 1870 ad oggi.

L'edificio comprende due piani, ciascuno composto da quattro stanze. Il piano terra è dedicato al Palatino dalle origini all'epoca repubblicana, mentre il primo piano è dedicato alle opere di epoca imperiale.

Le sale dalla I alla III racchiudono oggetti di pietra (sala I), che attestano una frequentazione umana del Palatino a partire dal Paleolitico medio e, proseguendo, nel Paleolitico superiore. Sono pure state rinvenute le tracce di un villaggio di capanne risalente almeno all'VIII secolo a.C.: esse consistono in vasi e altri utensili realizzati in impasto, di fabbricazione locale. Tra l'altro, le sale comprendono anche i modelli delle capanne, il contenuto di una tomba infantile datata al principio del VII secolo a.C. e un muro che permette la ricostruzione della stratigrafia della capanna A, cioè le diverse scoperte ordinate dalle più recenti alle più antiche, seguendo l'ordine in cui sono state rinvenute.

Nella sala IV sono esposte le opere di epoca arcaica e repubblicana. Fra di esse vi sono un altare dell'epoca di Silla dedicato "a un dio o a una dea", formulazione vaga che si ritrova altrove e che probabilmente è destinata a nascondere ai suoi nemici il vero nome del dio venerato. Sono esposte anche parecchie antefisse in terracotta policorma di varie epoche, rappresentanti Giunone Sospita e, forse, Giove e Apollo.

Nella sala V sono esposte opere dell'epoca di Augusto. In particolare, vi sono una statua di Hermes eclettico, che si rifa agli scultori greci Lisippo e Policleto, e una statua di atleta vittorioso in basalto, probabilmente commissionata da Ottaviano dopo la Battaglia di Azio, che rende testimonianza dei gusti classici dell'epoca. Alcune antefisse e alcune placche in bassorilievo testimoniano l'esercizio dell'arte della terracotta, ereditata dagli Etruschi. Un affresco, portato alla luce nel 1950 tra gli scavi delle Scalae Caci, rappresenta Apollo coronato d'alloro, seduto su un trono, con la citara in mano, in prossimità all'omphalos. Nella sala VI si trovano pitture e decorazioni in opus sectile provenienti dalla Domus Transitoria, fatta edificare da Nerone e poi ricoperta dalla Domus Flavia.

Le sale VII e VIII raggruppano opere a partire dall'età giulio-claudia fino alla Tetrarchia. Tra di esse vi sono parecchi ritratti, dei quali i principali sono quelli di Nerone, Agrippina Minore, Antonino Pio, Adriano e Marco Aurelio. La sala IX è una galleria che raggruppa copie romane di statue greche, provenienti dai palazzi imperiali del Palatino.