Groß St. Martin steht auf einer ehemaligen, etwa 1 km langen und vom antiken Köln durch einen schmalen Nebenarm des Rheins getrennten Insel. Grabungen um und unter der Kirche brachten in den 1960er- und 1970er-Jahren als Erstbebauung jener Insel eine Palästra (öffentliche Schwimm- und Sportanlage) des 1. Jh. zutage.
Die Reste eines 34 x 17 m messenden Schwimmbassins mit breitem Beckenrand sind im Bereich der Nordkonchenfundamente gut zu erkennen. Nach Versandung des Rheinnebenarms - die Römer hatten ihn als natürliches Hafenbecken genutzt - wurde das gesamte Hafenareal auf die vormalige Insel verlegt und die Palästra durch sogenannte horrea (Speicherhallen) ersetzt. Pfeilerreste und eine quer durch das Becken gezogene Mauer eines solchen Horreums finden sich ebenfalls in der Ausgrabung. In späterer Zeit wurden nun die unteren Zonen der schlichten Pfeilerschäfte dieses Horreums zu flach gekehlten Basen umgearbeitet und mit feinem Putz versehen. Zu welchem Zweck und wann? Einen profanen Warenspeicher derart aufzuhübschen musste einen besonderen Grund haben. Könnte die Halle zu einer Kirche umgebildet worden sein? Die Dreischiffigkeit des Horreums könnte guten Anlass dazu gegeben haben.
Die erwähnten Pfeilerbasen verschwanden nun zwischen dem 9. und 11. Jh. unter zwei angehöhten Fußböden. Allerdings bewahrt die romanische Kirche die Erinnerung an die gemäß der Grabungsergebnisse nun vor dem 9.–11. Jh. aufgewertete Pfeilerhalle, da Groß St. Martin mit seinen Pfeilerreihen und Mauern jenes Horreum exakt nachzeichnet. Auch das merowingisch-fränkische Martinspatrozinium und der Standort Groß St. Martins innerhalb der belebten Hafen-, Markt- und Handwerkervorstadt des damaligen Köln machen eine frühmittelalterliche Kirchengründung an dieser Stelle recht wahrscheinlich.