Şehrin adı, Hitit tabletlerinde Kurşura, İlk Çağ'da ise Garsaura olarak geçmektedir. Şehir, Kapadokya Kralı Archeleos zamanında yeniden inşa edilerek Archeleos'un şehri anlamına gelen, Archelais adını almıştır (Caesar- Kayseri, Heraklius-Ereğli gibi).

Türklerin Anadolu'ya gelişiyle birlikte, adı Türk diline uyarlanarak Aksaray şeklinde anılmaya başlamıştır. Bazı Osmanlı arşivlerinde Aksara olarak da geçmektedir. Yaklaşık bin yıldır tarihi adını muhafaza eden ender şehirlerdendir.

Halk arasında ve Evliya Çelebi’nin “Seyahatnâme”sinde adını II. Kılıçarslan'ın yaptırdığı Beyaz Saray'dan aldığı şeklinde bir bilgi dolaşsa da, bunun resmi ve tarihi bir dayanağı yoktur.

İlk Çağ'da Archelais adını taşıyan kenti, son Kapadokya kralı Arkhelaos'un Garsuara adlı yerleşim bölgesini geliştirerek kurduğu tahmin edilmektedir. Roma İmparatoru I. Cladius kente koloni ayrıcalığı tanımış, bu durum, Anadolu'daki birçok önemli yolun kavşak noktasında bulunan kentin daha da gelişmesini sağlamıştır.

Bizans ile Müslüman Araplar arasında birçok kez el değiştiren şehir, 1071’deki Malazgirt Savaşı'nın ardından Türklerin egemenliğine girmiştir. Şehirde Danişmendlilerin izleri de vardır. Örneğin şehirde Danişmend parası basılmıştır.

Bu paralardan bugüne ulaşmış bir tane bile örnek yoktur ama kümbet şeklinde inşa edilmiş olan Hıcıp yakınındaki Bekâr Sultan Türbesi, Danişmendlilerden günümüze ulaşmış önemli bir eserdir.

12. yüzyılın başlarında Arap akınları nedeniyle viran hale gelen şehir, II. Kılıç Arslan tarafından 1155-1192 arasında yeniden kurulmuştur. Kentin çevresi surla çevrilmiş, camii, medrese, çarşı ve hamamlarla kent zenginleştirilmiştir.

Azerbaycan'dan getirdiği din bilgini, zanaatkâr ve tüccarları kente yerleştiren II. Kılıç Arslan, ticaret yolları üzerinde bulunan Aksaray’ı Anadolu Selçuklu Devleti'nin önemli merkezlerinden biri haline getirmiştir.

Selçuklulardan sonra Karamanoğulları'nın eline geçen şehir 1341-1365 arasında Eretna Beyliği'nin egemenliğinde kalsa da 1 yıllığına Kadı Burhanettin Devleti’nin eline geçmiş, ardından yeniden Karamanoğulları’nın egemenliği altına girmiştir.

1396'da Yıldırım Bayezid tarafından ele geçirilmiş, Timur istilasından sonra ise yeniden Karamanoğulları'nın egemenliği altına girmiştir. Fatih Sultan Mehmet (1467) döneminde ise Aksaray kesin olarak Osmanlı topraklarına katılmıştır.

Aksaray, 1920 senesinde il olmuş fakat 1933'te çıkarılan özel bir kanunla kendisinden çok daha küçük olan Niğde'ye bağlanmıştır. Aksaray 15.06.1989’da ise Niğde'den ayrılarak il statüsü kazanmıştır.

Şehrin sınırları içinde bulunan Aşıklıhöyük “Yenitaş Dönemi” kültürüne ışık tutar. Acemhöyük ise ilk Tunç Çağı’ndaki Asur ticaret kolonileri dönemini aydınlatmaktadır. Aksaray’a 46 kilometre uzaklıktaki Ihlara Vadisi'nde de, Hıristiyanlık dönemi dinsel mimarlık ve resim sanatını yansıtan önemli örnekler bulunmaktadır.

Selime kasabası yakınındaki küçük kilise ve katedral ile, Helvadere'deki Yunan haçı şeklinde inşa edilmiş olan Kemerli kilise de bu dönemdendir.

Anadolu Selçukluları zamanında önemli bir üs olarak kabul edilen şehirde, II. Kılıç Arslan zamanında 1170'te yaptırılan Aksaray Kalesi'nden bugüne yalnızca sur kalıntıları kalmıştır.