Kâhta adının, nereden geldiği yolunda kaynaklarda pek bilgi olmamakla beraber, tarihte, Orta Asya’da Ötüken ve Karakurum yakınında Kâhta isimli bir kentin varlığı söz konusudur.
Buradan Kâhta isminin Orta Asya kökenli bir isim olduğu sonucu çıkarılabilir. Bir rivayete göre ise “Kâhta” Persçede “Dağın Eteği” anlamına gelmekte olup, bu adı da eski yerleşim yerinin konumundan dolayı almaktadır.
Kâhta’nın geçmişi sabah medeniyetinin doğuş yeri olan Mezopotamya’ya yakın olması nedeniyle tarih öncesi dönemlere kadar uzanmaktadır. Bulunduğu coğrafî konum nedeniyle tarih öncesi dönemlerden günümüze kadar sayısız medeniyetlere ev sahipliği yapmıştır. Yörede yapılan arkeolojik kazılardan elde edinilen eser ve bulgular ile günümüze intikal eden canlı tarihi bulgular en belirgin kanıtlardır. Paleolitik, neolitik, kalkolitik dönem ve tunç devrine ait elde edilen eserler Adıyaman müzesinde sergilenmektedir. M.Ö. 2000 yıllarında Kommagene Krallığının kuruluşuna kadar (m.ö. 69) Hititler, Mitaniler, Asurlular, Geç Hititliler, Persler, Kummurlar ile makedonyalı büyük İskender’in hakimiyeti ve Doğu Roma imparatorluğun egemenliği hüküm sürmüştür.
M.Ö. 69 yılında kurulan Kommagene krallığı bugün dünyanın sekizinci harikası olarak aday gösterilen Nemrut dağındaki dev heykelleri ve ilçedeki diğer tarihi eserleri bırakmıştır. 142 yıl yörede hüküm süren ve bugünlere intikal eden eserleri bırakan Kommagene krallığı M.S. 72 yılında Roma İmparatorluğu tarafından ortadan kaldırılarak Suriye eyaletine bağlanmıştır.
İlçenin antik çağda ve Bizans döneminde adı bilmemektedir. Orta çağda İslam dünyasının sınır kalelerinden biri olmuştur.
M.S. 670’de Emeviler, 758’de Bizans ve Sasaniler, 926’da Hamdaniler, 1226’da Seçuklular, 1284’e kadar Memlüklüler, Artuklular ve Dulkadiroğulları, 1393’te Timur ve 1516’dan sonra da Osmanlı İmparatorluğu bölgeye hakim olmuştur.
Kâhta şehri şu anda bulunduğu yere Cumhuriyetin ilk yıllarında taşınmış olup daha önce şimdiki Kocahisar ( Eski Kâhta ) köyünün bulunduğu yerde idi. M.Ö. üçüncü yüz yılın ilk yarısında ARSEMES adlı bir kralın bu yörede hakimiyet kurduğu sanılmaktadır. II.Selçukos’un ( M.Ö. 246-225 ) kardeşi Arsemes adındaki bir kralın kendi adıyla anılan iki kent görüyoruz. Bunlardan birincisi eski Kâhta kalesinin karşısındaki yukarı Arsemia’dır. Kâhta kalesi, Selçuklu imparatoru Alparslan’ın Malazgirt zaferi (1071)’ den sonra (1085) Selçuklular tarafından Bizanslılardan alınır. Yöre zaman zaman Malatya Danişmendlileri, Selçuklular ve Artuklular arasında el değiştirir. Kale daha sonra Melik’ul-Mansur tarafından onarılır. (XII.yy.) Bir süre Harput emirliği, Danişmendler ve Selçuklular arsında el değiştirir. Kaleyi daha sonra Sultan Alaeddin Keykubad’ın seraskeri Ceyli Bey zabteder.
Bölgede Selçuklu hakimiyeti başlar. (1226) Kâhta, Baba İshak ayaklanmasında (1240-1241) yağmalanır.
Kâhta kalesinin adı Memlüklüler ile Moğollar arasında geçen savaşlarda sık sık geçer. 1283-1289 yıllarında kale Halep valisi Kara Sungur tarafından alınır. Yeniden tahkim edilir. Daha sonra Osmanlı hakimiyetine geçer. Timur Malatya ve Kâhta’ya kadar olan kaleleri ele geçirince Yıldırım Beyazıd kalelere koyduğu muhafızları kovarak Türkmen’lerden Kara Osman’ı tahta geçirir. Timur’un çekilmesiyle Memlüklüler bölgeye hakim olurlar. (1417-1418) Memlüklülerin hakimiyeti Yavuz Sultan Selim’in bölgeyi ele geçirmesine kadar devam eder.
1516 yılında Yavuz Sultan Selim zamanında Osmanlı hakimiyetine girdikten sonra diğer ilçeler gibi önce Dulkadirli Emaretine, Kanuni zamanında ise sancak merkezi haline getirilen Samsat’a bağlanarak Zülkadiriye eyaleti (Maraş)’ne bağlanır. Kâhta 1531 yılında Malatya’ya, 1349 yılında ise Hısn-ı Mansur’a (Adıyaman) bağlanır. 1859 yılında Malatya sancak olunca Kâhta’da diğer kazalar gibi yeniden Malatya’ya bağlanır. Bu durum Osmanlı İmparatorluğunun yıkılmasına kadar devam eder. 1859 yılında Kâhta’da bir Abdal ayaklanırsa da ayaklanma bastırılır.
Milli mücadele döneminde M. Kemal’i yakalamak ve etkisiz hale getirmek için görevlendiren Ali Galib Malatya’da sıkıştırılınca Kâhta’ya gelir. Beraberindeki zatlarla Hacı Bedir Bey’e misafir olur. Hacı Bedir Bey’den umduğu desteği bulamayınca da 15.9.1919 günü Kâhta’dan Urfa’ya oradan da Halep’e kaçar.
Kâhta cumhuriyet döneminde Malatya’ya bağlı bir ilçe olarak eski durumunu muhafaza eder.
Cumhuriyetin ilk yıllarında yer değiştirerek eski Kâhta’dan 26 k.m. güneyindeki şimdiki yerine taşınır. | 
