Si tratta di un castello di pianta regolare, quadrangolare, con i lati lunghi perpendicolari alle strade del paese che sboccano nella piazza del mercato (piazza Minozzi), in modo tale da trovarsi nel cuore dell'abitato. La natura evidentemente non solo romanticamente residenziale ma anche spiccatamente difensiva, e non avrebbe potuto essere altrimenti per un feudo posto all'incrocio di lotte sanguinose fra Rossi e Pallavicino, si nota dai possenti speroni angolari sull'asse meridiano, dal podio a tronco di piramide su cui poggia il fortilizio, dagli spioventi.
Al di sopra del blocco murario spicca il mastio a due livelli, posto nel cortile dalla parte opposta dell'ingresso principale: la struttura è analoga a quella di Torrechiara, Noceto, Varano Melegari e Castelguelfo. Gli elementi architettonici del complesso rivelano comunque le composizioni in epoche diverse e i rimaneggiamenti.
All'interno si trovavano una volta preziosi e celebri affreschi attribuiti a Niccolò da Varallo, con le Storie di Griselda (tratte dalla nota novella decameroniana) e il Ciclo astrologico, voluti da Pier Maria Rossi, e nel 1897 staccati e trasferiti nel Museo del Castello Sforzesco a Milano.
Il soffitto della sala del primo piano dove erano ospitati gli affreschi conserva ancora un fondo azzurro-firmamento forse allusivo alle gesta rossiane. Recentemente restaurata, con recupero di soffitti a cassettoni del tardo XV secolo.
Si consiglia di verificare la corrispondenza degli orari di apertura contattando direttamente la struttura.