Meşrutiyetin ilanından sonra Ahmet Muhtar Paşa’nın müze müdürlüğüne getirilmesi ile birlikte Askerî Müze gelişim sürecine girmiştir. Ayda 500 kuruş gibi küçük bir ödenekle kurulan müzedeki hizmetlerin yürütülmesi için ilave gelir elde etmek amacıyla ziyaretçilerden ücret alınmış, atış poligonunda ücreti karşılığı atış yaptırılmış, sinema salonunda film izletilmiştir.
Müzeyi halka tanıtabilmek ve daha çok ziyaretçi çekebilmek amacıyla Ahmet Muhtar Paşa evinde bulunan kitap dolabını ve kitaplarını müzeye bağışlamıştır. Böylece kütüphanenin temeli atılmıştır. Daha sonraları kütüphane koleksiyonu ikmal, bağış ve satın alma yoluyla zenginleşerek bugünkü konumuna gelmiş ve gelişmeye devam etmektedir.
Aya İrini’nin küçük bir odasında hizmet veren kütüphane, Askerî Müze’nin yeniden açıldığı 1959 yılında Harbiye Mektebi yemekhanesinde hizmete devam etmiş, 1987 yılında ise Harbiye Mektebi binasında yapılan şimdiki bulunduğu yere taşınmış ve modern bir ortamda hizmetine devam etmektedir.
