Erzurum’da spor faaliyetleri yaptığını tespit ettiğimiz ilk dernek, İttihatçıların kurmuş olduğu “Türk Gücü Derneği”dir. 1913 yılında İstanbul’da kurulmuş olan bu dernek, aynı yılın sonlarına doğru Erzurum’da faaliyetlerine başlamıştır. 1914 yılı Ocak ayında Erzurum’da atış talimleri, yürüyüşler ve cirit müsabakaları düzenlemiştir. Değnek oyunu da denilen cirit müsabakalarında geleneklere uygun olarak Erzurumlularla ova köylüleri bir taraf, Pasinlilerle Haydari Boğazlılar diğer taraf şeklinde düzen almıştı. Erzurum’da ilk futbol takımlarının kurulması ve ilk maçlarının yapılması da İttihatçılar eliyle gerçekleştirilmiştir. I. Dünya Savaşı’ndan sonra Erzurum’da kurulan ilk spor derneği ise 1921’de faaliyete geçen “Erzurum İdman ve Spor Derneği”dir. Maalesef bu derneğin faaliyetlerine ilişkin herhangi bir bilgi elde edemedik.
Erzurum’un modern sporlarla gerçek anlamda tanışması, Millî Mücadele yıllarında Kâzım Karabekir vasıtasıyla gerçekleşti. Karabekir Paşa’nın çabaları sonucu atlı cirit, güreş, at yarışları, binicilik ve avlanma gibi geleneksel sporların yanı sıra, jimnastik, izcilik, atıcılık, eskrim, atletizm, kayak, paten, futbol, bisiklet ve su sporları alanlarında da faaliyetler yürütüldü. Paşa’nın Erzurum’dan ayrılmasından sonra spor faaliyetlerinde ciddi bir düşüş görüldü. Nitekim Cumhuriyet’in ilanından hemen önce Eylül 1923’te Erzurum’da Erzurum Lisesi (Sultani), Çıraklık Okulu (İş Ocağı) ve Erkek Muallim Mektebi (Darülmuallimin) talebeleri futbol ve benzeri oyunları rastgele oynamaktaydı. Onları yönlendirecek bir yönetici veya sporcu yoktu. Belirtilen tarihte Beylerbeyi Kulübü’nden Mehmet Ali Bey’in terbiye-i bedeniye muallimi olarak atanması, spor faaliyetlerinin az da olsa düzene girmesine yardımcı oldu. Aynı yıl Yüzbaşı İhsan Bey’in öncülüğünde “Erzurum İdman Ocağı” ismiyle bir spor kulübü kurulması için çalışmalara başlandı. Sonraki yıllarda sporla ilgili yeni adımlar atıldı. 1926 yılında Müstahkem Mevkii Zabitan Yurdu takımı ve Erkek Muallim Mektebi bünyesinde “Yüce Yurt Spor Kulübü” kuruldu. Bu kulübün iki takımı vardı ve bunlar kendi aralarında Karskapı’daki meydanda maçlar yapıyorlardı. Cumhuriyet’in ilk yıllarında Erzurum Türk Ocağı, Sipahi Ocağı, Halkevi ve Silah Fabrikası’nın yanı sıra, Erzurum Lisesi, Muallim Mektebi ve askeriyenin çeşitli birimleri tarafından çeşitli spor kulüpleri kuruldu. Bu kulüpler özellikle futbol takımları kurarak kendi aralarında maçlar organize etti. Bunlar arasında Erzurum sporuna en büyük katkıda bulunanlar Halkevi ve Silah Fabrikası’ydı. Halkevi’nin kurduğu Halk Spor, Yeni Spor ve Atayurt gibi kulüpler ile Silah Fabrikası’nın kurduğu Erzurum Gücü, şehirdeki spor faaliyetlerinin yerleşmesinde önemli katkılarda bulundu. Bilhassa Erzurum Gücü, Erzurum’da spor kulübü anlayışını yerleştiren ve kayak ile futbol başta olmak üzere çeşitli branşlarda düzenli ve disiplinli çalışan en önemli kulüptü. 1930’larda Erzurum’daki tek federe ve tescilli spor kulübü Erzurum Gücü’ydü.