Im Zweiten Weltkrieg erlitt St. Maria im Kapitol schwere Schäden durch Bombardements. Die Kirche gehörte zu den am stärksten getroffenen historischen Bauwerken der Stadt. Der Wiederaufbau dauerte Jahrzehnte. Die Gewölbe des Mittelschiffs und einige der Seitenschiffe waren eingestürzt, der Westturm bis auf den Sockel zerstört. Vom Kleeblattchor standen nur noch Teile der Südkonche und die Ostkonche. Diese stürzte 1948 ein, weil die Sprengungen an den Rheinbrücken das labile Bauwerk erschütterten.
Nur im nördlichen Seitenschiff war das Gewölbe erhalten geblieben, dort wurde 1950 eine Notkirche eingerichtet. Die Form des Wiederaufbaus war lange umstritten. Nach einem Architekten-Wettbewerb 1955/56 entschied die Jury sich gegen moderne Bauformen und für eine weitgehende Rekonstruktion des romanischen Bauwerks, allerdings in reduzierten Formen und mit Kompromisslösungen. Das Gewölbe im Langhaus wurde nicht wieder eingezogen, davon zeugen noch die Pfeilervorlagen. Dafür wurde eine Holzdecke nach Entwurf des Dombaumeister Willy Weyres (1903–1989) eingebaut, die entfernt an die ursprüngliche flache Eindeckung des 11. Jh. erinnert. Es dauerte bis Weihnachten 1984, bis auch die Ostteile der Kirche und der Anbauten wieder für den Gottesdienst genutzt werden konnten.