L'impianto della Chiesa è ancora quello dei primi decenni dell'anno mille, quando in tutta Europa si rinnovarono le chiese e sorsero cattedrali. L'abside e la facciata della Chiesa, che appena poco più di un secolo prima, il 27 maggio 884, era stata fondata da Adalberto I di Toscana, furono abbattute e ricostruite in modo da allungare lo spazio interno delle navate. L'altare maggiore è stato ricomposto utilizzando i marmi dell'altare seicentesco eretto nel 1664 per ospitare le reliquie di San Severo. Nell'abside dell'Abbazia è visibile l'antica tomba di San Caprasio. Nel 1944, vicino alla tomba, è caduta, miracolosamente inesplosa, una bomba inglese del peso di 500 libre ritrovata nel corso dello scavo archeologico del 2003.