Dat de Rijn de grens van het Romeinse rijk vormde blijkt wel uit alle forten en wachttorens die erlangs liggen. Tussen Xanten en Keulen, in Duitsland, vinden we castella zoals Asciburgium (Asberg), Gelduba (Gellep) Durnomagus (Dormagen), het legioenskamp Novaesium (Neuss) en meerdere wachtposten en mini-forten. Sommigen vatten alle militaire versterkingen op als een teken dat de Romeinse tijd vrij oorlogszuchtig en onveilig was, zodat er continue bewaking nodig was. Zij vergeten dat de bewaking eerder als voorzorg diende en dat uitgerekend de hoofdstad van deze provincie, Germania Inferior, aan diezelfde Rijn lag. Want ten zuiden van bovengenoemde forten vinden we Colonia Claudia Ara Agrippinensium, oftewel Keulen: de hoofdstad van Germania Inferior en van de gemeenschap van de stam der Ubiërs.
De Ubiërs stuurden waarschijnlijk al gezanten naar Caesar tijdens de Gallische Oorlog. Toen tijdens deze oorlog meer Germaanse stammen van achter de Rijn probeerden om Gallië binnen te komen, zaten de Ubiërs in een lastig pakket en vroegen Caesar om hulp tegen de Sueben. Toen Caesar de Eburonen in 54 v. Chr. ervan langs gaf, onderwierpen de Ubiërs zich nogmaals aan hem. Marcus Agrippa gaf in 39 of 38 v. Chr. toestemming aan de Ubiërs om op de linkeroever van de Rijn te komen wonen, tussen de Rijn en de Ruhr. Hun nieuwe stad werd Oppidum Ubiorum (“burcht der Ubiërs”) of Ara Ubiorum (“altaar de Ubiërs”) genoemd. Wanneer de stad precies gesticht werd is onduidelijk, maar de jaartallen 37 en 19 v. Chr. zijn de voornaamste kandidaten. Bij de stad lag een brug over de Rijn. Al vroeg in de eerste eeuw werd aan de overzijde het fort Divita gesticht, groot genoeg voor 1000 soldaten, om de stad te beschermen.
Aanvankelijk werden er bij Ara Ubiorum twee legioenen geplaatst. Na de Varusslag in 9 na Chr. waren dit Legio I Germanica en Legio XX Valeria Victrix. Dit bleef echter niet zo. Vanaf 28 na Chr. werd de omgeving van Ara Ubiorum niet langer als militaire basis gebruikt, op een vlootbasis in het zuiden na. De belangrijkste militaire plaats in Germania Inferior werd hiermee Castra Vetera, bij Xanten, waar nog wel twee legioenen geplaatst zaten. Ara Ubiorum daarentegen werd de hoofdstad van Germania Inferior gemaakt en werd hiermee het centrum van zowel het militaire als burgerlijke bestuur. Pas in 54 na Chr. werd de stad waarschijnlijk uitgeroepen tot Colonia Claudia Ara Agrippinensium (CCAA), in veel boeken kortweg Colonia Agrippina of Colonia Agrippinensis genoemd. De bewoners werden op den duur niet zozeer Ubiërs maar eerder Agrippinensen genoemd.
Als colonia moet CCAA als een kleine versie van Rome zijn ontworpen. Er zal dus een Capitool geweest zijn, een heiligdom waar de Capitolijnse Drieëenheid (Jupiter, Juno en Minerva) werd vereerd. Dit was gebouwd op een kunstmatige heuvel, waar nu de Sint-Maria im Kapital staat. Een ander zeer belangrijk gebouw was het praetorium, het hoofdkwartier van de troepen in Germania Inferior, dat in deze tijd nog een militair grensdistrict was en derhalve militaristischer van aard. Met 3,5 hectare was het praetorium één van de grootste gebouwen in heel Germania Inferior, waarvan de oostelijke muur op de Rijn uit keek. Het was in ditzelfde gebouw dat gouverneur Vitellius in januari 69 tot keizer werd uitgeroepen, waarop hij met zoveel mogelijk troepen naar Rome marcheerde.
De Ubische bevolking leed in de herfst van 69 onder invallen van Germaanse stammen van achter de Rijn, zoals de Chatten en Mattiaci, toen die zich bij de Bataafse opstand aansloten. Weliswaar wist men CCAA nog een tijdje veilig te stellen, maar wellicht creëerde dit een vals gevoel van veiligheid, zodat er begin 70 een heuse samenzwering in een woonhuis van de stad werd opgezet: de Treverische commandanten Julius Tutor en Julius Classicus en de Lingonische hoofdman Julius Sabinus kwamen hier met wat vertegenwoordigers van de Ubiërs en Tungri bijeen om te bespreken hoe zij zich zo listig mogelijk bij de opstand konden aansluiten. Sabinus droomde hierbij zelfs van een Gallisch keizerrijk met hemzelf aan het hoofd. Toen de Romeinse officier Gaius Dillius Vocula lucht kreeg van de samenzwering trok hij in zijn eentje naar de stad, maar ontmoette daar tot zijn verrassing Claudius Labeo, de neef van Julius Civilis, die aanbood om hem te helpen de opstand tegen te werken.
De plannen mochten niet baten, want in de weken daarna wonnen de rebellen alleen maar aan terrein, tot Classicus uiteindelijk voor de poorten stond en de stad dwong trouw te zweren aan het Gallische rijk. Kort daarna hadden de rebellen bijna alle forten veroverd. De Germaanse bondgenoten achter de Rijn drongen aan op plundering van CCAA, erop wijzend dat de bevolking zijn Germaanse afkomst verraden zou hebben door in deze zeer Romeinse stad te wonen die van Germaanse reizigers die de stad in wilden een tol eiste en hen verbood wapens te dragen. Civilis en Classicus zagen hier echter geen heil in omdat dit de steun voor de opstand in de streek kon doen afbrokkelen en omdat Civilis’ zoon zich nog als gijzelaar in de stad bevond. Van de Tencteren moesten de muren in elk geval worden afgebroken, maar de Agrippinensen zeiden tactvol dat ze de tol op zouden heffen en dat de muren beter konden blijven staan om een beleg van Romeinse heroveringstroepen te weerstaan. De Agrippinensen speelden het spel slim, want toen de Romeinse legioenen van Cerialis naar het noorden oprukten, waren ze erin geslaagd de Friese en Chaukische krijgers die de stad bezetten dronken te voeren en op te sluiten in een gebouw dat vervolgens in brand gestoken werd. Tevens konden ze de vrouw en zuster van Civilis en de dochter van Classicus, alle drie achtergelaten als gijzelaars, aan Cerialis uitleveren.
De Agrippinensen hadden op de juiste kaarten ingezet, want uiteindelijk verloren Civilis en zijn rebellen de strijd. CCAA had zware klappen gehad maar had overleefd en bloeide hierna op als nooit tevoren en bereikte op zijn hoogtepunt een omvang van bijna een vierkante kilometer. Toen Germania Inferior in de jaren 80 van de eerste eeuw tot “echte” provincie verheven werd, werd het praetorium van de opperbevelhebber omgedoopt tot het paleis van de voortaan civiele gouverneur. De stad bevatte tempels voor onder andere Mars, Mithras, Isis, Serapis, Rhenus (de Rijn) en Portunus, de god van de havens en rivierhandel. Als knooppunt tussen de Rijn en de Via Belgica, een belangrijke handelsweg die vanuit Boulogne naar het oosten liep, was CCAA de rivier dan ook veel verschuldigd. Vanuit de Belgische en Limburgse lössgrond werden er grote hoeveelheden graan en ander voedsel aangevoerd om via de Rijn naar de militaire versterkingen verspreid te worden. Verder bevatte de stad waarschijnlijk een gokhuis en was het de enige stad in Germania Inferior die naast een amfitheater ook een daadwerkelijk theater had voor toneelstukken. Daarnaast wemelde het er al van de ambachtslieden. Er werd zelfs al een soort eau de Cologne geproduceerd!
De stad raakte opnieuw in de problemen tijdens de Crisis van de Derde Eeuw, hoewel het de enige stad in Germania Inferior was die in die eeuw nog groei doormaakte en 25000 inwoners telde. In 260, toen de troepen van generaal Postumus in opstand kwamen tegen onderkeizer Saloninus, werd de stad waarin de laatstgenoemde zich bevond belegerd. Men zegt wel dat er zodoende twee Gallische keizerrijken in Keulen zijn uitgeroepen, maar dat is niet echt waar: het eerste Gallische keizerrijk kwam sowieso nooit echt van de grond en het tweede werd in zijn eigen tijd nooit zo genoemd, maar staat enkel bekend omdat de machtsbasis zich in Gallië concentreerde zonder zich ooit op de verovering van Rome te richten. In plaats daarvan werden er residenties in de Gallische provincies gebouwd, waaronder in CCAA.
Het Gallische rijk viel in 276 toen keizer Aurelianus het heroverde – een zet die de grensprovincie lelijk uitdunde. Hoewel Colonia Agrippina bleef bestaan, was het achterland van de stad aanzienlijk dunner bevolkt. In 280 probeerden twee officieren genaamd Bonosus en Proculus het werk van Postumus dunnetjes over te doen door vanuit Keulen hun eigen onafhankelijke rijk uit te roepen, maar dit was van korte duur. Tussen deze tijd en de vroege 4e eeuw zal er voor het eerst christendom zijn opgedoken in Keulen, wat hiervoor al vele cultussen uit verschillende delen van het rijk kende. Goden als Isis, Serapis en Mithras waren populair onder Romeinse veteranen, waar het in de stad van wemelde, maar Constantijn de Grote maakte in een decreet interessant genoeg ook melding van een aanzienlijke Joodse minderheid.
Ondanks dat Keulen groot en belangrijk bleef kreeg de stad in de vierde eeuw enkele gevoelige klappen, vaak als er weer Germaanse invallers zoals de Franken of Alemannen het rijk binnendrongen. Rond 355 was de stad in Germaanse handen, maar de nieuwe onderkeizer Julianus wist hem te heroveren. Hoewel de stad weer in Romeinse handen was en van groot belang bleef, was dit wel een keerpunt. De rijke economie herstelde hierna niet meer helemaal. Een halve eeuw hierna verloren de Romeinen alle controle over de Rijngrens, hoewel men aanspraak op Keulen bleef maken. In de vijfde eeuw leed de stad onder invallen van de Bourgonden en Hunnen: niet de Romeinen maar de Franken ontzetten Keulen. In 456 zag de Romeinse generaal Aegidius zich gedwongen om toe te geven dat Keulen een Frankische stad was geworden. Toch bleef de Romeinse erfenis hangen. Keulen werd een aartsbisdom waarvan de kerkprovincie tot in de 16e eeuw over de hele Lage Landen reikte; de aartsbisschop bestuurde de stad zelf en had zelfs de titel van keurvorst. Tot op de dag van vandaag zijn er resten van de Romeinse stadsmuren te zien.
