西肥城市因西周时期称肥子国而得名。周时期肥族人散居于此，称肥子国。汉置肥城县。因其地为春秋时肥国遗民散居之处，故名。1992年3月1日，撤销肥城县，设立肥城市。
1949年6月，肥城县行政区划为10区1镇，即第一区（城关）、第二区（巧山店）、第三区（安临站）、第四区（王庄）、第五区（王瓜店）、第六区（湖屯）、第七区（石横）、第八区（安驾庄）、第九区（高淤）、第十区（边院）和城关镇。1951年，将上营、王先庄、代家河、杨家庄、侯家庄、李家峪6个自然村划归长清县。1958年3月，将西北部的段家天井、铁山、荒场等3个自然村划归平阴县所辖。
1958年9月，全县先后建立城关、仪阳、安临站、王庄、王瓜店、湖屯、石横、安驾庄、汶阳、边院、桃园、马家埠、过村、孙伯14个公社。1959年7月，将长清县的双泉、马山、五峰3个公社共177个自然村划归肥城县。1960年1月，撤销过村、马家埠、五峰3个公社。1961年5月，将马山、双泉2个公社177个自然村复划归长清县。全县时辖12个公社、57个管理区、572个生产大队。1982年3月，增设刘家庄镇。
1983年12月23日，全县行政区划改为1镇12区。1985年11月5日，全县行政区调整为9镇8乡593个行政村。1992年9月5日，撤销新城镇，设立新城街道办事处，为肥城市的派出机构，其管辖范围为原新城镇的行政区域。1993年8月30日，撤销潮泉乡，设立潮泉镇；撤销安临站乡，设立安临站镇；撤销王庄乡，设立王庄镇。1996年1月3日，撤销马家埠乡，设立马家埠镇（鲁政函民字[1996]3号）。1996年1月11日，撤销过村乡、孙伯乡，设立过村镇、孙伯镇（鲁政函民字[1996]6号）。
1996年，肥城市面积1263.1平方千米，人口98.2万人。辖1个街道、14个镇、2个乡：新城办事处、老城镇、潮泉镇、王瓜店镇、桃园镇、王庄镇、湖屯镇、石横镇、仪阳乡、安站镇、东陆房乡、孙伯镇、安驾庄镇、马庄埠镇、过村镇、边院镇、汶阳镇。市政府驻新城街道。
1997年末，肥城市面积1277平方千米，辖1个街道、14个镇、2个乡：新城街道辖27个行政村，人口92768人，其中农业人口34838人；老城镇辖33个行政村，人口80289人，其中农业人口37737人；潮泉镇辖11个行政村，人口23677人，其中农业人口21260人；王瓜店镇辖32个行政村，人口80371人，其中农业人口58291人；桃园镇辖42个行政村，人口58877人，其中农业人口55125人；王庄镇辖53个行政村，人口56857人，其中农业人口54362人；湖屯镇辖48个行政村，人口81121人，其中农业人口45611人；石横镇辖43个行政村，人口82682人，其中农业人口44451人；仪阳乡辖49个行政村，人口46965人，其中农业人口44909人；安临站镇辖27个行政村，人口36037人，其中农业人口34329人；东陆房乡辖21个行政村，人口25995人，其中农业人口25152人；孙伯镇辖17个行政村，人口30585人，其中农业人口29058人；安驾庄镇辖45个行政村，人口55195人，其中农业人口52351人；马家埠镇辖26个行政村，人口33822人，其中农业人口32702人；过村镇辖35个行政村，人口31279人，其中农业人口30109人；边院镇辖45个行政村，人口53729人，其中农业人口51217人；汶阳镇辖53个行政村，人口82343人，其中农业人口78883人。
1998年末，肥城市面积1277平方千米，辖1个街道、14个镇、2个乡。新城街道辖27个行政村，人口97671人，其中农业人口36081人；老城镇辖33个行政村，人口80270人，其中农业人口37466人；潮泉镇辖11个行政村，人口23584人，其中农业人口21134人；王瓜店镇辖32个行政村，人口80303人，其中农业人口57936人；桃园镇辖42个行政村，人口58832人，其中农业人口54803人；王庄镇辖53个行政村，人口56289人，其中农业人口53823人；湖屯镇辖48个行政村，人口81350人，其中农业人口45282人；石横镇辖43个行政村，人口83481人，其中农业人口43894人；仪阳乡辖49个行政村，人口46428人，其中农业人口44351人；安临站镇辖27个行政村，人口35838人，其中农业人口34067人；东陆房乡辖21个行政村，人口25806人，其中农业人口24937人；孙伯镇辖17个行政村，人口30976人，其中农业人口29453人；安驾庄镇辖45个行政村，人口55140人，其中农业人口52146人；马家埠镇辖26个行政村，人口33574人，其中农业人口32426人；过村镇辖35个行政村，人口31102人，其中农业人口29904人；边院镇辖45个行政村，人口53419人，其中农业人口50834人；汶阳镇辖53个行政村，人口81684人，其中农业人口78081人。
1999年末，肥城市面积1277平方千米，辖1个街道、14个镇、2个乡。新城街道辖27个行政村，人口103775人，其中农业人口36100人；老城镇辖33个行政村，人口80205人，其中农业人口47800人；潮泉镇辖11个行政村，人口23492人，其中农业人口20600人；王瓜店镇辖32个行政村，人口80194人，其中农业人口57200人；桃园镇辖42个行政村，人口58633人，其中农业人口52200人；王庄镇辖53个行政村，人口56035人，其中农业人口53600人；湖屯镇辖48个行政村，人口82107人，其中农业人口46600人；石横镇辖43个行政村，人口83765人，其中农业人口52400人；仪阳乡辖49个行政村，人口46052人，其中农业人口42700人；安临站镇辖27个行政村，人口35572人，其中农业人口34000人；东陆房乡辖21个行政村，人口25646人，其中农业人口24700人；孙伯镇辖17个行政村，人口30855人，其中农业人口25000人；安驾庄镇辖45个行政村，人口55062人，其中农业人口49900人；马家埠镇辖26个行政村，人口33367人，其中农业人口31700人；过村镇辖35个行政村，人口30965人，其中农业人口29700人；边院镇辖45个行政村，人口53184人，其中农业人口49800人；汶阳镇辖53个行政村，人口81187人，其中农业人口77200人。
2000年第五次人口普查，肥城市总人口948602人，其中：新城街道120262人，老城镇70368人，潮泉镇22885人，王瓜店镇81935人，桃园镇56616人，王庄镇53424人，湖屯镇79695人，石横镇85551人，安临站镇34659人，孙伯镇30030人，安驾庄镇53746人，马家埠镇31748人，过村镇29841人，边院镇51423人，汶阳镇78201人，仪阳乡43733人，东陆房乡24485人。
2000年末，肥城市面积1277平方千米，辖1个街道、12个镇、1个乡：新城办事处、老城镇、潮泉镇、王瓜店镇、桃园镇、王庄镇、湖屯镇、石横镇、仪阳乡、安临站镇、孙伯镇、安驾庄镇、边院镇、汶阳镇。新城街道辖27个行政村，人口107398人，其中农业人口3.21万人；老城镇辖33个行政村，人口80284人，其中农业人口3.87万人；潮泉镇辖11个行政村，人口23446人，其中农业人口2.06万人；王瓜店镇辖32个行政村，人口80270人，其中农业人口5.74万人；桃园镇辖42个行政村，人口58480人，其中农业人口5.38万人；王庄镇辖53个行政村，人口55862人，其中农业人口5.37万人；湖屯镇辖48个行政村，人口81845人，其中农业人口4.47万人；石横镇辖43个行政村，人口84253人，其中农业人口4.50万人；仪阳乡辖49个行政村，人口45802人，其中农业人口4.27万人；安临站镇辖48个行政村，人口60852人，其中农业人口5.87万人；孙伯镇辖17个行政村，人口31326人，其中农业人口2.50万人；安驾庄镇辖71个行政村，人口88076人，其中农业人口8.14万人；边院镇辖80个行政村，人口83829人，其中农业人口7.95万人；汶阳镇辖53个行政村，人口80662人，其中农业人口7.72万人。（缺居委会统计数据）
2001年2月，将东陆房乡、马家埠镇、过村镇分别并入安临站镇、安驾庄镇、边院镇。调整后，全市行政区辖1个街道、12个镇、1个乡，共607个村（居）委会。2001年末，肥城市面积1277平方千米，辖1个街道、12个镇、1个乡：新城办事处、老城镇、潮泉镇、王瓜店镇、桃园镇、王庄镇、湖屯镇、石横镇、仪阳乡、安临站镇、孙伯镇、安架庄镇、边院镇、汶阳镇。新城街道辖1个居委会、26个村委会，乡村人口3.42万人；老城镇辖7个居委会、26个村委会，乡村人口4.78万人；潮泉镇辖11个村委会，乡村人口2.04万人；王瓜店镇辖32个村委会，乡村人口5.73万人；桃园镇辖42个村委会，乡村人口5.36万人；王庄镇辖53个村委会，乡村人口5.38万人；湖屯镇辖4个居委会、44个村委会，乡村人口4.67万人；石横镇辖6个居委会、37个村委会，乡村人口5.21万人；安临站镇辖48个村委会，乡村人口5.78万人；孙伯镇辖17个村委会，乡村人口2.82万人；安驾庄镇辖71个村委会，乡村人口8.10万人；边院镇辖80个村委会，乡村人口8.15万人；汶阳镇辖53个村委会，乡村人口7.64万人；仪阳乡辖49个村委会，乡村人口4.24万人。（缺各乡镇总人口数据）
2007年底，全市总面积1277.3平方千米。总人口96.6万人，其中非农业人口26.2万人。有少数民族21个，11002人。辖1个街道、12个镇、1个乡：新城街道、老城镇、潮泉镇、王瓜店镇、桃园镇、王庄镇、湖屯镇、石横镇、安临站镇、孙伯镇、安驾庄镇、边院镇、汶阳镇、仪阳乡，共有607个村（居）委会。
2010年7月9日，《肥城市人民政府关于调整部分乡镇街道行政区划的通知》（肥政发[2010]17号）：根据《泰安市人民政府关于调整岱岳区肥城市宁阳县东平县部分乡（镇、街道）行政区划的通知》（泰政发[2010]44号）精神，一、撤销老城镇，以其原行政区域设立老城街道办事处，办事处机关驻原老城镇政府驻地。二、撤销王瓜店镇，以其原行政区域设立王瓜店街道办事处，办事处机关驻原王瓜店镇政府驻地。三、撤销仪阳乡，以其原行政区域设立仪阳镇，镇政府驻原仪阳乡政府驻地。2010年末，全市总人口97.89万人，其中非农业人口38.07万人。有少数民族21个，1.1万人。全市人口密度每平方千米759人。辖3个街道、11个镇：新城街道、老城街道、王瓜店街道、潮泉镇、桃园镇、王庄镇、湖屯镇、石横镇、安临站镇、孙伯镇、安驾庄镇、汶阳镇、边院镇、仪阳镇。市政府驻新城街道。