兰州，始建于公元前86年。据记载，因初次在这里筑城时挖出金子，故取名金城，还有一种说法是依据“金城汤池”的典故，喻其坚固。
两汉、魏晋时在此设置金城县。十六国前凉时又移金城郡治于此。
隋开皇三年（公元583年），隋文帝废郡置州，在此设立兰州总管府，“兰州”之称，始见于史册。后虽然州、郡数次易名，但兰州的建置沿革基本固定下来，相沿至今。
秦始皇统一中国后，分天下为三十六郡，兰州一带属陇西郡地。
西汉初，依秦建制，兰州仍为陇西郡辖地。到了元狩二年（公元前121年），霍去病率军西征匈奴，在兰州西设令居塞驻军，为汉开辟河西四郡打通了道路。昭帝始元元年（公元前86年）在今兰州始置金城县，属天水郡管辖。
西汉昭帝始元六年（公元前81年），又置金城郡。宣帝神爵二年，赵充国平定西羌、屯兵湟中后，西汉在金城郡的统治得到加强，先后又新置七县。
东汉建武十二年（公元36年）并金城郡于陇西郡。安帝永初四年（公元110年），西羌起义，金城郡地大部被占，郡治由允吾迁至襄武（今甘肃陇西县），十二年后又迁回允吾。东汉末年，分金城郡新置西平郡，从此，金城郡治由允吾迁至榆中（今榆中县城西）。
西晋建立后，仍置金城郡。西晋末年，前凉永安元年（公元314年），分金城郡所属的枝阳、令居二县，又与新立的永登县（在今兰州市红古区窑街附近）三县合置广武郡，同年，金城郡治由榆中迁至金城，从此金城郡治与县治同驻一城。
隋文帝开皇三年（公元583年），改金城郡为兰州，置总管府。因城南有皋兰山，故名兰州。大业三年（公元607年），改子城县为金城县，复改兰州为金城郡，领金城、狄道二县，郡治金城。大业十三年（公元617年），金城校尉薛举起兵反隋，称西秦霸王，建都金城。不久迁都于天水，后为唐所灭。
唐统一中国后，于武德二年（公元619年）复置兰州。八年置都督府。
显庆元年（公元656年），又改为州。天宝元年（公元742年）复改为金城郡。乾元二年（公元759年）又改金城郡为兰州，州治五泉，管辖五泉，广武二县。
宝应元年（公元762年）兰州被吐蕃所占，大中二年（公元848年），河州人张义潮起义，收复陇右十一州地，兰州又归唐属。然而此时的唐朝已经衰落，无力西顾。不久就被党项族占据。
清初依明建制，兰州隶属临洮府，卫属陕西都指挥使司。顺治十三年（公元1656年），裁卫归州。
康熙二年（公元1663年）复设兰州卫。
康熙五年（公元1666年）陕甘分治，设甘肃行省，省会由巩昌（今陇西）迁至兰州。从此，兰州一直为甘肃的政治中心。
乾隆三年（公元1738年），临洮府治由狄道移至兰州，改称兰州府，又改州为皋兰县。当时兰州府辖管狄道、河州二州；皋兰、金县、渭源、靖远四县。
乾隆二十九年（公元1764年）陕甘总督衙门自西安移驻兰州，裁减甘肃巡抚。
辛亥革命后，于民国二年（公元1913年），废府（州）设道，并兰山、巩昌二府为兰山道，辖管皋兰、红水、榆中、狄道、导河、宁定、洮沙、靖远、渭源、定西、临潭、陇西、岷县、会宁、漳县等十五县。道尹驻省会皋兰县。
民国十六年（公元1927年）改道为区，变兰山道为兰山区。
民国二十五年（公元1936年），划甘肃省为七个行政督察专员公署，皋兰、榆中属第一行政督察区（专署驻岷县）。
民国三十年，即公元1941年7月1日，将皋兰县城郊划出，新设置兰州市，与皋兰县同治今兰州城关区。市区面积16 平方公里，人口17.2万余人。
民国三十三年（公元1944年）市区扩大，东至阳洼山，西至土门墩（不含马滩），南到石咀子、八里窑、皋兰山顶，北至盐场堡、十里店，面积达146平方公里。
1949年8月26日，兰州解放。