Sarıyahşi ismini kesin olarak nereden ve nasıl aldığı tam olarak bilinememektedir. Anlatılanlara göre: İsmini, İbrahim Hakkı Konyalı´nın Abideleri ve Kitabeleri ile Şereflikoçhisar Tarihi adlı eserinde yer alan bilgilere göre, Yahşi Han´dan almıştır. Türk Askeri olan Yahşi Han yaralı olarak askerleri ile Sarıyahşi'den geçerken vefat eder. O zamana kadar Sarı olarak bilinen yer, Yahşi ile birleşerek, şimdiki Sarıyahşi ismini alir. Sözlükte Yahşi Güzel anlamına gelmektedir. Yani Sarıyahşi, Sarıgüzel anlamına da gelmektedir. Saryahşi 1957 yılında Kasaba olmuştur. Bağlı olduğu yer Ankara ili Ş.Koçhisar ilçesi iken, 15.06.1989 tarih ve 3587 sayılı kanun ile ilçe olmuş ve yine aynı kanun ile il olan Aksaray'a bağlanmıştır.