Sivas târihi kadar eski olan kalenin kimin tarafından yapıldığı kesin olarak bilinmemektedir. Bizanslılar döneminde Justinyen devrinde büyük bir tâmirat görmüştür. Türklerin eline geçtikten sonra çeşitli dönemlerde tâmir görmüştür. Kale, yukarı ve aşağı kale olmak üzere iki kısımdır. Yukarı kale, toprak kale olarak bilinen bugünkü 4 Eylül Baskınının bulunduğu kısımdır. Aşağı kale olarak bilinen kısım Şifâhiye Medresesinin bulunduğu yerden başlayıp, Kongre Müzesi, Vilâyet Konağı, Behrampaşa Hanı, Pulur Tepesi, ddy yönünde Şifâhiye Medresesine varan çizgi içerisinde kalan bölgedir.