1958年9月21日正式组建。展览大楼于1958年10月动工兴建，1959年7月竣工，同年10月内部预展，1960年8月正式开放。建馆50多年来，平均每年接待观众200万人。2008年3月免费开放后，观众成倍增长，2011年在展览大楼基本陈列陆续撤展关闭的情况下，仍然接待观众410万人次。军事博物馆为副军级单位，隶属总政治部，行政主管部门为总政直属工作部，业务主管部门为总政宣传部。下辖办公室、政治部、管理处、陈列宣传处、编辑研究处、文物处、设计处等7个中层单位和干休所。今年编制调整后，业务处将改为展陈管理教育部、展陈研究部、文物征管部、展陈设计部、安全保卫部。军博还设有学术委员会、艺术委员会、文物鉴定委员会、军博书画院。