Cengiz Han’dan itibaren Asya’nın pek çok ülkesini istila ve tahrip eden, ardından Azerbaycan’a yerleşerek Türkiye Selçuklu Devleti’ni tehdit eden Moğollar, 1242 yılında, Baycu Noyan’ın komutasında Erzurum’a saldırdı. Selçukluların doğu sınırlarını koruyan Erzurum şehrinin Moğollar tarafından işgali, Anadolu’nun kaderi açısından olduğu gibi Erzurum için de önemli sonuçlar doğurdu. Bu işgal, uzun zamandır istiladan uzak bir şekilde zengin ve mamur olarak gelişmekte olan Erzurum’da her şeyi altüst etti.
Moğolların Erzurum’u işgali hiç de kolay olmamıştı. 1242 yılı ilkbaharında Ahlat’ı ele geçirdikten sonra Erzurum Kalesi’ni kuşatan Moğollar, surların etrafına kurdukları mancınıklarla çevre köylerden getirttikleri devasa taşları kaleye atmaya başladı. Surlarda açılan gedikler içeridekiler tarafından hemen tamir ediliyor ve Moğolların içeri girmesine fırsat verilmiyordu. Kale komutanı Sinaneddin Yakut ile o sırada Erzurum’da bulunan Frenk askerlerinin komutanı İstankos, şehri cansiperane bir şekilde müdafaa ediyor ve büyük kahramanlık gösteriyorlardı. Burçlardan Moğolların üzerine ok yağdırılıyor ve büyük taş parçaları atılıyordu. Hatta bir ara bu iki komutanın kalenin ana kapısından çıkış yaparak Moğollara hücum etmesi, Baycu Noyan’ı oldukça şaşırtmıştı. Erzurum Kalesi bu şekilde aylarca mukavemet etti. Kale ve istihkâmlar kuvvetli olduğu için Moğollar içeri giremedi. Fakat şehir, kale burçlarından birinin komutanı olan Şerefeddin Duvinî’nin ihanetiyle düştü. Bu kişi Baycu Noyan’a gizlice haber göndererek kendisi ve yakınlarının hayatına dokunulmaması şartıyla Moğol askerlerini içeri alacağını bildirdi. Bu teklifin kabul edilmesi üzerine Duvinî, 200 Moğol askerini kontrolündeki burçtan gizlice yukarı çekti. Bunlar hemen aşağı inip kale kapısını içeriden kırdılar ve pusuda bekleyen Moğol askerlerini kaleye aldılar. Bunun üzerine şehrin sokaklarında Selçuklularla Moğollar arasında göğüs göğüse bir savaş başladı. Sinaneddin Yakut ve İstankos’un askerleri sabaha kadar Moğollarla mücadele ettiler. Fakat sonunda teslim olmak zorunda kaldılar.
İki ay süren Moğol kuşatması böylece sona erdi. Kaleye hâkim olan Moğollar taş üstünde taş bırakmadılar. Önlerine çıkan her şeyi yakıp yıktılar. Moğollar, başta Sinaneddin olmak üzere bütün askerleri katlettiler. Şehir halkından savaşa ve sanata yatkın olanları alıkoyduktan sonra geri kalanları acımasızca öldürdüler. Diğer taraftan Selçuklulara ihanet etmiş olan Şerefeddin Duvinî de öldürülenler arasındaydı.
Erzurum’un işgalinden bir müddet sonra, 1243’teki Kösedağ yenilgisiyle birlikte Türkiye Selçuklu Devleti, Moğol hâkimiyetini tanımak zorunda kaldı. Böylece Erzurum, Moğollara bağlı bir Selçuklu vilayeti hâline getirildi.
Erzurum 1258’de Moğolların Azerbaycan ve İran’da kurdukları İlhanlı Devleti’ne tâbi oldu. Selçuklu Devleti’nin 1308’de yıkılmasından sonra ise doğrudan İlhanlı Devleti’ne bağlandı ve İlhanlı valileri tarafından idare edilmeye başlandı. 1335’te İlhanlıların yıkılışından sonra şehir, onlara bağlı birtakım beylerin mücadele sahası hâline geldi. Bu dönemde Togaylılar, Çobanlılar, Eretnaoğulları ve Karakoyunlular arasında sık sık el değiştirdi. 1387’de Timur’un güçlü ordusu Erzurum’u ele geçirdi. Şehri tahrip ettiği gibi halkını da katletti. Timur’un sonraki yıllarda üç kez daha Erzurum’dan geçtiği bilinmektedir. Son kez 1402 yılında Ankara Savaşı’na giderken ve sefer dönüşü Erzurum’dan geçmiştir. İşte bu sırada Timur’un ordusundaki fillerin geçmesi için şehrin batısındaki Çaykara Deresi üzerinde bir köprü yaptırdığı rivayet edilir. Bu köprüye “Fil Köprüsü” veya “Filgeçti Köprüsü” denilmiştir.