蜀山区以原西市区为主。1949年为合肥市第三区，1951年11月改为西市区。西市区位于合肥市区西南部。是合肥市面积最大，人口最多的城区。
1996年，西市区面积38.3平方千米，人口约28.8万人，辖9个街道：五里墩街道、西园街道、三里庵街道、琥珀山庄街道、稻香村街道、南七街道、芜湖路街道、包河街道、巢湖路街道。
2000年第五次人口普查，西市区常住总人口387009人，其中：三里庵街道35901人，巢湖路街道21973人，包河街道52718人，芜湖路街道48555人，南七里站街道54181人，稻香部街道63514人，琥珀山庄街道18485人，西园新村街道35002人，蜀山路街道56680人。
2002年，西市区更名为蜀山区。蜀山区蜀山区辖原西市区琥珀、三里庵、五里墩、西园新村、南七里站、稻香村6个街道。将井岗镇（原郊区的蜀山镇）划归蜀山区。原西市区稻香村街道金寨路以西的区域由稻香村街道办事处管辖，街道办事处驻地暂驻稻香村街道办事处原驻地。原西市区南七里站街道金寨路以西区域与原郊区常青镇金寨路以西区域合并，由南七里站街道办事处管辖，街道办事处驻地不变。原郊区杏花村镇五里岗、五里墩2个村划归蜀山区井岗镇管辖。调整后，蜀山区辖井岗镇1个镇，琥珀、三里庵、五里墩、西园新村、南七里站、稻香村6个街道。面积85.55平方千米，人口35.46万人，其中非农业人口29.30万人。区人民政府驻梅山路107号（原西市区人民政府驻地）。同年，蜀山区政府筹备组批准将原五里墩和五里岗两个村委会，分别更名为青阳路社区居委会和清溪路社区居委会。此外，南七街道朝阳村、光明村也进行村改居。
2002年，蜀山区对区域内的行政区划作相应的调整。蜀山区的新勘定的边界线沿金寨路、环城路向西南方向延伸。西面与肥西县、高新区交界，南面与政务文化新区、高新区交界。将清溪路社区管辖的合作化北路以东、霍山路以北区域内的墩郢、五东2个村民小组划入琥珀山庄街道；青阳路社区管辖的合作化北路以东、霍山路以南区域内的东新庄、西新庄2个村民小组划入三里庵街道；光明社区整体划入西园新村街道；朝阳社区整体划入稻香村街道；洪岗村、丁岗村、杜岗村民小组划入南七里站街道管辖。从10月10日起，蜀山区将正式启用新的行政版图。2002年底，蜀山区辖：五里墩街道、西园街道、三里庵街道、琥珀山庄街道、稻香村街道、南七街道、井岗镇。
2004年4月，笔架山街道正式挂牌成立。至此，蜀山区辖8个街道、1个镇，即稻香村、三里庵、南七里站、五里墩、西园新村、琥珀山庄、荷叶地、笔架山8个街道和井岗1个镇。
2006年，将肥西县南岗镇划归合肥市蜀山区管辖。调整后的蜀山区辖稻香村、三里庵、南七里站、五里墩、西园新村、琥珀山庄、荷叶地、笔架山8个街道和井岗、南岗2个镇。2007年底，全区辖8个街道、2个镇：稻香村街道、南七里站街道、三里庵街道、琥珀山庄街道、西园新村街道、五里墩街道、荷叶地街道、笔架山街道、井岗镇、南岗镇。区政府驻稻香村街道。
2008年，蜀山区以长江西路、合作化路、黄山路等主干道为界线，对琥珀山庄街道、西园新村街道、稻香村街道、五里墩街道、三里庵街道和南七里站街道的管辖范围进行重新划分。同时将琥珀山庄街道、西园新村街道和南七里站街道将分别更名为琥珀街道、西园街道和南七街道。
2010年第六次人口普查，蜀山区常住总人口1022321人，其中：三里庵街道89255人，稻香村街道51284人，琥珀街道87262人，南七街迫66226人，西园街道65440人，五里墩街道76847人，荷叶地街道44102人，笔架山街道25263人，井岗镇112896人，南岗镇12594人，蜀山新产业园区16542人，高新技术产业开发区118723人，莲花社区管理委员会64116人，芙蓉社区管理委员会49218人，锦绣社区管理委员会68320人，海恒社区管理委员会48656人，临湖社区管理管委会25577人。
2013年4月3日，省民政厅（民地字[2013]67号）批复同意将肥西县的高刘镇整建制划归合肥市蜀山区管辖（4月16日市政府批复同意高刘镇整建制划归蜀山区管辖，由蜀山区委托经开区管理；9月1日正式移交蜀山区，由合肥市经济技术开发区托管）。同年，省民政厅（民地字[2013]140号）批复同意将肥西县的小庙镇整建制划归合肥市蜀山区管辖。2014年10月9日，高刘镇增挂高刘社区管理委员会牌子（一个机构两套牌子）。