Cumhuriyet Caddesi üstünde 54.000 metrekare’lik alan üzerine kuruldu. Geniş ve büyük bir alan üzerine Mekteb-i Harbiye binasını Osmanlı Devletine subay yetiştirmek için kuruldu. II. Abdülhamid tarafından yapılan Mekteb-i Harbiye binası 1936 yılına kadar okul olarak, 1964 yılına kadar Kolordo Karargahı için kullanılmıştır. Güney bölümü Ordu evi yapılana kadar ordu evi olarak kullanılmaya devam edilmiştir. 1964 yılında alınan karar ile müze olarak kullanılmaya başlanmıştır. Müzenin düzenlenmesine profesör doktor Nezih Eldem tarafında başlanıp 1991 yılında tamiratı son bulmuştur. Halen günümüzde’de müzenin iç dış tamiratı devam etmektedir.