故匈奴休屠王地。公元前121年，汉武帝派骠骑将军霍去病征服河西，为显示汉军的武功军威而设置的“武威郡”，下属姑臧等10个县。三国时设置凉州，成为全国十三州之一。东晋十六国时期，前凉、后凉、南凉、北凉先后在这里建都。
北魏改为林中县。宋为西凉府，明为凉州卫。清雍正二年（1724）改武威县。民国初期置甘凉道，后改为第六行政督察区。1949年9月16日武威解放，为专区（地区）所在地。1985年6月19日，经国务院批准，武威县改为武威市。
1996年，武威市面积5081平方千米，人口约94.3万人。辖8镇38乡：城关镇、武南镇、黄羊镇、清源镇、永昌镇、双城镇、丰乐镇、高坝镇、大柳乡、双树乡、清放乡、羊下坝乡、中坝乡、永丰乡、五和乡、古城乡、韩佐乡、金羊乡、金沙乡、西营乡、红星乡、金塔乡、长城乡、下双乡、九墩乡、四坝乡、洪祥乡、怀安乡、金山乡、青林乡、六坝乡、新华乡、南营乡、东河乡、二坝乡、河东乡、谢河乡、庙山乡、松树乡、柏树乡、清水乡、校尉乡、张义乡、中路乡、上泉乡、吴家井乡。市政府驻城关镇。1998年1月年，将丰乐镇的山湾等6村划出设立康宁乡。2000年，武威市辖6个街道、9个镇、38个乡。
2000年第五次人口普查，武威市常住总人口946506人，其中，东大街街道36173人，西大街街道48701人，东关街街道17964人，西关街街道28568人，火车站街街道8740人，地质新村街街道3870人，黄羊镇42475人，武南镇53076人，清源镇23488人，永昌镇42805人，双城镇33569人，丰乐镇13675人，高坝镇46482人，金羊镇37937人，和平镇17687人，羊下坝乡16760人，中坝乡16383人，永丰乡10721人，五和乡11816人，古城乡16143人，韩佐乡9886人，张义乡16488人，发放乡14855人，双树乡10073人，大柳乡12922人，长城乡14987人，金沙乡13590人，西营乡11995人，红星乡11244人，金塔乡13954人，下双乡11200人，九墩乡7955人，四坝乡13473人，洪祥乡21717人，怀安乡13779人，金山乡6667人，青林乡3071人，六坝乡15797人，新华乡12108人，南营乡5379人，东河乡12488人，二坝乡12895人，河东乡14864人，谢河乡12575人，庙山乡7364人，松树乡13303人，柏树乡15887人，中路乡16195人，上泉乡13316人，清水乡19286人，校尉乡9194人，吴家井乡6494人，康宁乡10689人，九墩滩指挥部3869人，九条岭煤矿3910人，黄羊河农场6000人。
2001年5月9日，国务院批准（国函[2001]47号）：撤销武威地区和县级武威市，设立地级武威市。武威市设立凉州区，以原县级武威市的行政区域为凉州区的行政区域。区人民政府驻东大街。（7月27日实施?）
2004年，凉州区乡镇行政区划调整：1、撤销青林乡，将该乡所有村并入丰乐镇。2、撤销南营乡，将该乡所有村并入新华乡。3、撤销校尉乡，将该乡所有村并入古城镇。4、撤销庙山乡，将该乡所有村并入谢河镇。5、撤销六坝乡，将该乡所有村并入高坝镇。6、撤销二坝乡，将该乡所有村并入黄羊镇。7、撤销双树乡，将该乡所有村并入发放镇。8、撤销上泉乡、中路乡，将两乡所有村并入张义镇。9、撤销西营乡，将该乡所有村并入红星镇，红星镇更名为西营镇。10、新建荣华街道办事处，将高坝镇新关村、教师新村村划归该街道办事处，教师新村村更名为教师新村社区。即将6个街道、19个镇、28个乡，36个社区、448个行政村，3765个小组，调整为7个街道、19个镇、18个乡，37个社区、448个行政村，3765个小组。
2008年末，全区面积5081平方千米，辖7个街道、19个镇、18个乡：东大街街道、东关街街道、西大街街道、西关街街道、地质新村街道、火车站街道、荣华街道；黄羊镇、武南镇、清源镇、永昌镇、双城镇、丰乐镇、高坝镇、张义镇、谢河镇、古城镇、发放镇、金羊镇、中坝镇、羊下坝镇、四坝镇、洪祥镇、永丰镇、西营镇、和平镇；河东乡、东河乡、韩佐乡、长城乡、吴家井乡、清水乡、大柳乡、金沙乡、下双乡、九墩乡、金山乡、五和乡、怀安乡、松树乡、柏树乡、金塔乡、新华乡、康宁乡，共有449个行政村，3765个村民小组。农业人口19.48万户81.15万人（不含城区数据）。
2010年第六次人口普查，凉州区常住总人口1010295人，其中，东大街街道49937人，西大街街道66040人，东关街街道24071人，西关街街道35138人，火车站街街道21422人，地质新村街街道3230人，荣华街街道9819人，黄羊镇63707人，武南镇51025人，清源镇23873人，永昌镇43427人，双城镇34276人，丰乐镇17352人，高坝镇53672人，金羊镇42222人，和平镇24017人，羊下坝镇16117人，中坝镇16446人，永丰镇10326人，古城镇24677人，张义镇38264人，发放镇24353人，西营镇24142人，四坝镇13389人，洪祥镇19249人，谢河镇21107人，五和乡11353人，韩佐乡9719人，松树乡14298人，大柳乡13556人，长城乡15592人，金沙乡13829人，柏树乡15987人，金塔乡14830人，下双乡11096人，九墩乡8153人，怀安乡13628人，金山乡5645人，清水乡18860人，吴家井乡6848人，新华乡18798人，康宁乡10300人，东河乡13122人，河东乡15667人，九墩滩指挥部7716人。
2011年5月12日，凉州区政府下发《关于成立黄羊河街道办事处的通知》，根据武威市政府《关于同意设立黄羊河街道办事处的批复》（武政发[2010]219号）文件精神，成立黄羊河街道，办事处办公地点设在黄羊河农场职工文化中心，管辖区域为甘肃黄羊河农工商（集团）有限责任公司管理的区域范围，原属黄羊镇管辖的新华社区划归黄羊河街道管辖。
2015年，省民政厅（甘民复〔2015〕94号）批复同意撤销金沙乡、怀安乡、河东乡、松树乡、清水乡、下双乡，设立金沙镇、怀安镇、河东镇、松树镇、清水镇、下双镇。