Osmanlı Dönemi’nin sonlarında Erzurum’da faaliyete geçen en dikkat çekici eğitim kurumlarından biri, 13 Ekim 1873 Pazartesi günü törenlerle açılan “Askerî İdadî” idi. Böylece Erzurum’da sivil liseden önce askerî bir lise açılmış oldu. Günümüzde Havuzbaşı’ndaki Erzurum Lisesi’nin karşısında inşa edilen Askerî İdadî binası, Fosfor Mustafa Paşa döneminde, Paşa’nın damadı İstihkâm Binbaşısı Salim Bey tarafından yaptırılmıştı. Salim Bey bir müddet bu okulun müdürlüğünü de yapmıştı. Bu okula Erzurum Askerî Rüşdiyesi öğrencilerinin yanı sıra Erzincan, Sivas, Elâzığ ve Diyarbakır gibi illerden gelen öğrenciler alınırdı. Öğretmenleri ordunun kabiliyetli subayları arasından seçilir, teğmen rütbesiyle bu okullara giren hocalar genellikle yarbay ve albay rütbelerine yükselinceye kadar bu vazifelerinde kalırlardı. Erzurum’dan mezun olan öğrenciler ise İstanbul’daki Harbiye Mektebi ve diğer yüksekokullara giderek eğitimlerini devam ettirirlerdi. 93 Harbi’nde Erzincan’a taşınan askerî lise 1881’de tekrar Erzurum’a nakledildi. Erzurum’daki bu önemli eğitim kurumu 1906 yılında kapanarak Erzincan’a nakledildi. Erzurum’daki Askerî İdadî binası ise Osmanlı Devleti’nin son yıllarında askerî hastane olarak kullanılmaya başlandı. Belirtilen dönemde buraya “Merkez Hastanesi” denilmekteydi. Nitekim Erzurum Sıhhat Müdürü Doktor Şerif Bey, savaştan hemen önce hazırlamış olduğu eserinde bu bina için “Binâ murabbaü’ş-şekl pavyon tarzında, bidâyetde mekteb binâsı inşâ kılınmış, bilâhire hastahâne haline ifrâğ edilmiş” ifadesini kullanmaktadır.
Askerî İdadî binası bir dönem kışla olarak da kullanıldığı için buraya ayrıca “İdadî Kışlası” denilmişti. Cumhuriyet Dönemi’ne gelindiğinde, Yukarı Mumcu Mahallesi Hastaneler Caddesi’nde toplamda 26.657 metrekarelik bir alanı kaplayan İdadî Kışlası’nın içinde İdadî Hamamı ve büyük bir talimgâh vardı. İdadî Kışlası’nın hemen altında Gureba Hastanesi yer almaktaydı.
Aynı dönemde Erzurum’da Askerî Ortaokul (Rüşdiye) de açılmıştır. Erzurum Askerî Rüşdiyesi 1870 yılında Kırkçeşme Mahallesi’nde Esatpaşa Camii’nin altında, Taşhan’ın üst tarafındaki binasında faaliyete geçti. Erzurum Belediye başkanlarından Şeyh Hacı Mehmet Ali Paşa, Erzurum Rüşdiyesinin ilk mezunlarındandı. 1890’ların ortalarında okulun dört sınıfında toplam 373 öğrenci okumaktaydı. Yanındaki binada ise İptidai Numune Mektebi açılmıştı. Bu okulda Hakkı Hoca’dan yetişen talebeler, Erzurum’daki devlet dairelerinde önemli vazifeler almıştı.
