Tarih öncesi ve sonrasında büyük önemli gelişmelerle sahne olan Kayseri’de müzeciliğin geçmişi eskilere uzanmaktadır. Osman Hamdi Bey tarafından vilayetlerle gönderilen bir genelge ile, taşınabilir eski eserlerden en önemlilerinin İstanbul’a gönderilmesi, diğerlerinin korumaya elverişli okullarda toplanmasının istenmesi üzerine, Kayseri çevresinden toplanan pek çok eser Kayseri Lisesinin bir odasında koruma altına alınmıştır.

1928 yılında Milli Eğitim Bakanı Esat Bey, Kayseri’ye yaptığı bir ziyaret sırasında, bu eserleri görür ve Kayseri Valisi Fuat Bey’le bir müze kurulması konusunu görüşür. Vali Fuat Bey’in çalışmalarıyla, Hunat Hatun Medresesi’nin onarımı yapıldıktan sonra, 1 Mart 1930 tarihinde açılan müze 1937 tarihine kadar “Depo Müze” olarak faaliyette bulunur. Eserlerin kronolojik ve bilimsel tasnifinin yapılmasından sonra, 1938 yılında, 5 kuruş giriş ücreti karşılığında halkın ziyaretine açılır.

1948 yılında Prof. Dr. Tahsin Özgüç tarafından, Kayseri’nin 22 km. kuzeydoğusunda bulunan Kültepe Kaniş/Karum’da sistemli kazıların başlatılması ile açığa çıkartılan eserlerle, çevreden satın alınan ve bağışlanan eserlerin gün geçtikçe çoğalması, müze teşhir ve depolarında yertemininde güçlükler doğurunca, 1965 yılında, bugün kullanılan müze binası inşaatına başlanır ve 26 Haziran 1969 tarihinde ziyarete açılır.