Il museo è ospitato nella camminamenti seminterrati di collegamento tra i bastioni del castello aragonese, costruito nel 1470 da Pirro del Balzo. Il museo è dedicato, in particolare, alla colonia latina di Venusia, fondata nel 291 a.C. e patria del poeta latino Orazio. Tra i reperti relativi alle prime fasi dell'occupazione romana del Melfese, si segnalano alcune ceramiche daunie e, in particolare, un askos a decorazione policroma rinvenuto a Lavello, che rappresenta un funerale indigeno, celebrato, però, secondo canoni diffusi a Roma, a conferma del precoce adeguamento delle aristocrazie daunie ai modelli culturali della nuova potenza dominante.
Monete, elementi di decorazione architettonica, ceramiche permettono di definire la storia politica e culturale della città romana sino alle fasi più tarde. Ben documentata è la raccolta epigrafica, sia a carattere funerario, sia relative ad importanti opere pubbliche realizzate da magistrati di Venusia. Alla stessa sezione si riferiscono i cippi iscritti in lingua osca, che, nella vicina Bantia (Banzi), durante il I secolo a.C. componevano un templum augurale: spazio aperto, consacrato, dove si traevano gli auspici attraverso il volo degli uccelli.
Epigrafi e arcosolii figurati testimoniano lo stanziamento di un'importante comunità ebraica, che, tra IV e IX secolo d.C., seppellisce i propri defunti all'interno di catacombe contigue a quelle cristiane.
Una mostra permanente illustra anche le fasi più antiche della presenza dell'uomo nel territorio di Venosa, a partire dal frammento di femore di homo erectus (circa 300.000 anni fa), tra i più antichi rinvenuti in Europa.