La tradizione vuole che la basilica sia stata fondata dal re longobardo Liutprando per ospitare le spoglie di sant'Agostino che erano state custodite fino al 722 a Cagliari nella omonima cripta, ove erano giunte nel 504 dalla città di Ippona, attualmente in Algeria, al seguito di Fulgenzio di Ruspe, esiliato assieme ad altri vescovi del Nord Africa dal re vandalo Trasamondo. Il re Liutprando, infatti, temeva che i saraceni potessero trafugare una così importante reliquia nel corso delle loro frequenti scorrerie sulle coste del Mediterraneo.

Della chiesa longobarda rimangono pochissimi resti, nascosti sotto la ricostruzione romanica terminata intorno al 1132. San Pietro in Ciel d'Oro si presenta, così, come molte altre chiese pavesi dell'epoca: un edificio in mattoni, a tre navate con transetto, abside e cripta.

Nel presbiterio, prima del coro, si trova l'Arca di Sant'Agostino, un capolavoro marmoreo del Trecento, scolpito da maestri comacini. Si tratta di un'opera gotica divisa in tre fasce: in basso, uno zoccolo contenente l'urna con i resti del santo; al centro, una fascia aperta, con la statua di Sant'Agostino dormiente e, in alto, l'ultima fascia, poggiata su pilastrini e coronata da cuspidi triangolari. L'intera opera è decorata da più di 150 statue, che raffigurano angeli, santi, e vescovi, e da formelle con la vita del santo.