将军楼公园座落于格尔木市将军楼遗址。将军楼始建于1956年10月，是“青藏公路”之父慕生忠将军居住、办公的地方。其前身为青藏公路建设指挥部。为了深切缅怀和纪念50多年前慕生忠将军和他率领的筑路大军，该公园以将军楼旧址及慕生忠将军纪念馆为核心，以纪念青藏公路、军垦拓荒戍边及格尔木发展历史，展现了历代建设者艰苦奋斗、无私奉献的精神。
幕生忠，1910年生于陕北吴堡县赫家山村，1930年参加陕北红军。1951年8月出任西藏工委常委、组织部部长兼进藏支队政委，率领1663人，经过四个月的艰苦跋涉，最终到达拉萨。1953年，幕生忠率粮草队从格尔木出发，先后两次进藏。1954年，青藏公路通车，从此结束了西藏不通公路的历史。在此，在青藏公路的通车中，幕生忠将军最功不可没，后人称他为“青藏公路之父”。
2013年5月，青藏公路建设指挥部旧址（将军楼）被列为第七批全国重点文物保护单位。