Kern der Alten Burg ist der um 1185 erbaute Wohnturm des Koblenzer Adelsgeschlechts von der Arken.
Im Zuge des Baus der Stadtmauer ließ Erzbischof Heinrich von Finstingen um 1277 diesen Kern zu einer Zwingburg erweitern, die wiederum auf Resten der spätantiken Stadtmauer errichtet wurde.
Im 17. und 18. Jahrhundert wurde das Baudenkmal, das ursprünglich eine Wasserburg war, erheblich verändert und erweitert. Nach dem Untergang des alten Erzstifts Trier wurde die Anlage Sitz der Blechwarenfabrik Fink & Co, später Schaaffhausen & Dietz.
Im Zuge der Anlage der heutigen Burgstraße um die Mitte des 19. Jahrhunderts verschwand der alte Burggraben weitgehend. Die Alte Burg ist seit der Schließung der Fabrik 1897 in das Eigentum der Stadt Koblenz übergegangen.