Ulus meydanından Yıldırım Beyazıt Meydanına uzanan Çankırı Caddesi üzerinde caddeden 2,5 metre kadar yükseklikteki bir platform üzerinde bulunmaktadır.Hamamın bulunduğu yüksek platformun höyük olduğu bilinmektedir. Burada 1937 yılında kazılar yapılmış olup höyüğün Friğ ve Roma devri katları ortaya çıkarılmıştır. Bu kazılar sonucunda bulunan hamam binası 1940 - 1943 yıllarında yapılan kazılarla da bütünüyle ortaya çıkarılmıştır. Bugünkü Roma Hamamı olarak adlandırılan bu platformun bir höyük olduğu, en üstte Roma Çağı (kısmen Bizans ve Selçuklu kalıntıları) onun altında Frig Devri yerleşmesinin kalıntıları tesbit edilmiş bulunmaktadır.

1937 - 1944 yıllarında yapılan kazılarda ortaya çıkarılan bu muhteşem anıtı biri palaestra, öteki kapalı hamam kısmları olmak üzere iki bölümden ibarettir. Burada yapılan kazılarda bulunmuş sikkeler dayanılarak hamam kazı başkanı tarafından Caracalla (M. S. 212 - 217) devrine tarihlenmiştir. Kazı sırasında bulunan diğer sikkelerden anlaşıldığına göre, hamam aşağı yukarı beşyüz yıllık bir süre içinde devamlı kullanılmış ve zaman zaman onarılmıştır. Caracalla Hamamının Çankırı Caddesindeki girişi, sütunlu bir revak kalıntısını çevrelediği geniş bir alana, Palaestraya yani bir güreş sahasına açılır. Bu revaklı avlunun bir kenarında 32 sütun olmak üzere bütün yüzünde 128 mermer sütun bulunmaktadır. Bugün burada Roma devrinin Ankara'sından toplanan yazıtların oluşturduğu zengin bir kolleksiyon sergilenmektedir. Hamam binaları palaesto kısmının hemen arkasında yer alırlar. Bu yapılar ender rastlanan bir büyüklükte olup, her zaman olduğu gibi Apoditerium (soyunma kısmı) Friğidarium (soğukluk kısmı) Tepidarium (ılık kısım) ve Caldarium (sıcak kısım) bölümlerinden oluşurlar. Tepedarium ve Caldarium bölümlerinin daha geniş olmasının nedeni kuşkusuz Ankara' nın soğuk kış mevsimi gözönüne alındığında kolaylıkla anlaşılır. Bunlar etrafında ocaktan (külhan) gelen sıcak havanın rahatça dolaştığı tuğla sütunlardan oluşan bir eraltı ısıtma tesisatı ile desteklenir ve yukarıdaki odalarda böylelikle ısıtılırdı. Bu yer altı ısıtma tesisi, ocakçıların ateşi körüklemek için geçtikleri bir takım tünel ve geçitleri ile birbirlerine bağlı idiler.