Secondo la tradizione, il piccolo drappello di soldati romani, che uscì silenzioso da Porta Sanguinaria il 16 agosto 304 per accompagnare all'esecuzione capitale il giovane centurione Ambrogio, si fermò nei pressi dell'Ara Monticchio, una zona disabitata poco distante dalle mura ed assuefatta a simili scene per i malfattori dell'epoca.
Molto probabilmente il Santo trovò la sua prima sepoltura nella comune area cimiteriale circostante. Questo spiegherebbe anche l'esistenza di un antico oratorio suburbano, costruito a ricordo nel luogo dove sorge l'attuale chiesa della Madonna degli Angeli, di origine medievale.
Ci volle tutta l'accortezza dei primi cristiani per trafugare il corpo del Santo senza destare i sospetti delle autorità romane e seppellirlo in un cimitero cristiano o in un ipogeo sottostante l'abitazione di qualche nobile famiglia cristiana lungo la via Latina, sotto l'attuale chiesa di S. Agata, sempre fuori le mura, ma di più facile accesso e sicurezza, dove essi potessero raccogliersi in preghiera e assolvere ai riti funerari di refrigerio negli anniversari.
Vista la rigida consuetudine vigente nel Diritto Romano, secondo la quale le tombe romane non andavano violate, si presume che per i cinque secoli successivi questo sia stato l'unico luogo di sepoltura del Santo.
Il bisogno di sicurezza di fronte alle continue invasioni barbariche ed il desiderio di arricchire gli altari delle nuove chiese con il prezioso deposito dei corpi Santi spinsero, nel IX secolo, il vescovo di Ferentino a trasportare il corpo di S. Ambrogio nella chiesa urbana dell'antica S. Maria Maggiore. Ancora oggi, una pietra incastonata a sinistra della porta centrale della chiesa riporta la seguente iscrizione

(Ad Ambrogio cristiano il santo vescovo Giovanni pose); per tale motivo si può ritenere che sia la lastra tombale.

E fu nel 1108, nella nuova chiesa Cattedrale ricostruita sul terrapieno dell'Acropoli, che il vescovo Agostino si preoccupò di trovare una degna dimora alle reliquie del Santo.
Ed il 29 dicembre 1108 le reliquie furono solennemente poste sotto l'altrare centrale della Cattedrale, segnandolo così definitivamente al centro del culto dei martiri di Ferentino.
Il 30 settembre 1179, in occasione dalla consacrazione dell'altare della Cattedrale di Anagni, fatta da papa Alessandro III, il vescovo di Ferentino Rodolfo (1160-1191) si presentò con una parte del cranio di S. Ambrogio, per riporlo in esso. Il frammento osseo è stato riavuto per interessamento di Mons. Bianconi e con l'autorizzazione di papa S. Pio X.
Un incendio doloso avvenuto nell'archivio della Cattedrale il 23 febbraio 1641, non ci permette di conoscere la data della traslazione del corpo di S. Ambrogio dall'altare maggiore alla cappella laterale destra avvenuta in una data compresa tra il 1108 ed il 1639, anno del primo ritrovamento.
Il vescovo di ferentino, Mons. Ennio Filonardi, avendo restaurato la cappella dedicata al Santo, il 27 aprile 1639 si decise a fare una prima ricerca sotto il pavimento; non dovette attendere molto per trovare i vasi in cui erano contenuti i piccoli frammenti delle ossa di S. Ambrogio e si fermò, credendo che non ci fosse altro.
Soltanto un secolo dopo, il 18 ottobre 1747, Mons. Fabrizio Borgia durante dei lavori di ristrutturazione della cappella, rinvenne inaspettatamente il resto delle ossa del Martire Ambrogio.
Le reliquie rinvenute in ambedue le ricerche furono poste dentro un'urna marmorea a vista dei fedeli e, nel 1904, furono nuovamente collocate nella navata centrale, sotto l'altare maggiore.