高平以“四面皆山而中有平地”得名。春秋时称泫氏，战国时为长平，初属韩，后属越。长平之战后秦置高都县。两汉至两晋均为泫氏县。北魏和平五年（464）改泫氏县为元氏县。永安二年（529年）改置建州，设长平郡，领泫氏、高平二县，高平之名始于此。北齐天保七年（556年）改高平县为平高县。北齐末又改为高平，泫氏县并入。
唐武德元年（618年）于长平置盖州（今高平米山镇），贞观元年（627）废。之后，高平归属屡变，县名无改。民国32年（1943）陵高县抗日民主政府成立。以高平县东南部（米山、云泉以南，白晋公路以东），陵川县西部和西南部组成；1945年10月撤销。1958年，高平县并入晋城县，1961年恢复高平县。1993年5月，撤销高平县，设立高平市（县级），由晋城市代管。
1971年5月10日，将高平县牛庄公社所辖的寨上、南庄2个生产队划归晋城县；将陵川县附城公社所辖的双泉、秦庄川、南岭3个生产队划归高平；沁水县柿庄公社、固县公社、胡底公社、樊庄公社划归高平。1978年4月19日，晋城县的寨上、南庄2个生产队重新划归高平县；柿庄公社、固县公社、胡底公社、樊庄公社重新划归沁水县。
1994年初，撒销城关镇，分设东城、北城、南城3个街道。？年，撤销野川乡，设立野川镇。？年，撤销团池乡，设立神农镇。
2000年第五次人口普查，高平市常住总人口471671人，其中，北城街道34190人，东城街道24130人，南城街道28993人，米山镇19810人，三甲镇24897人，陈区镇28959人，北诗镇16125人，河西镇27061人，马村镇19979人，野川镇14905人，寺庄镇30014人，神农镇24992人，唐庄乡16393人，云泉乡14504人，建宁乡17847人，拥万乡16365人，石末乡17205人，悬壶南乡8147人，东周乡14761人，原村乡20406人，杜寨乡8120人，永禄乡12810人，釜山乡8400人，赵庄乡10432人，牛庄乡12226人。
各乡镇面积、人口数据（根据撤并乡镇摸底统计资料，括号为拟撤并后乡镇数据）：马村镇38.13平方千米、16288人，东周乡27.47平方千米、13233人，悬壶南乡19.4平方千米、7403人（马村镇85.0平方千米、36924人）；野川镇33.2平方千米、14408人，杜寨乡59.9平方千米、8777人（野川镇93.1平方千米、23185人）；河西镇51平方千米、24797人，牛庄乡33.2平方千米、12064人（河西镇84.2平方千米、36861人）；寺庄镇48平方千米、24263人，赵庄乡54.2平方千米、10838人，永禄乡28.4平方千米、11838人，釜山乡30.8平方千米、8634人（寺庄镇160.4平方千米、55558人）；米山镇42.07平方千米、19338人，云泉乡27.6平方千米、14187人（米山镇69.67平方千米、33525人）；唐庄乡25.87平方千米、15842人（拟并入南城街道）；三甲镇39.73平方千米、25095人；神农镇50.2平方千米、24882人；陈区镇62.33平方千米、28207人；建宁乡31.6平方千米、17325人；北诗镇34平方千米、15557人；拥万乡39.73平方千米、15971人；石末乡45.33平方千米、17130人；原村乡68.87平方千米、19328人。
2001年，高平市调整乡镇行政区划（晋政函[2001]7号；1月10日晋市政发[2001]5号），由9镇13乡调整为9镇4乡：一、撤销东周乡、马村镇，合并设立新的马村镇。区划调整后马村镇人口33727人，面积65.56平方千米，镇人民政府驻马村村。二、撤销悬壶南乡、牛庄乡、河西镇，合并设立新的河西镇。区划调整后河西镇人口47970人，面积103.6平方千米，镇人民政府驻河西村。三、撤销拥万乡、北诗镇，合并设立新的北诗镇。区划调整后北诗镇人口32521人，面积73.73平方千米，镇人民政府驻北诗村。四、撤销杜寨乡、野川镇，合并设立新的野川镇。区划调整后野川镇人口23910人，面积93.1平方千米，镇人民政驻大野川村。五、撤销釜山乡、赵庄乡、寺庄镇，合并设立新的寺庄镇。区划调整后寺庄镇人口48384人，面积132.04平方千米，镇人民政府驻寺庄村。六、撤销云泉乡、米山镇，合并设立新的米山镇。区划调整后米山镇人口34092人，面积64.67平方千米，镇人民政府驻米山村。七、撤销唐庄乡、南城道办事处，合并设立新的南城街道办事处，以原唐庄乡、南城街道办事处和米山镇的川起、石桥口两村的行政区域为南城街道办事处的行政区域。区划调整后南城街道办事处人口46260人，面积49.97平方千米，街道办事处驻康乐街。八、原三甲镇、神农镇、陈区镇、永禄乡、石末乡、原村乡、建宁乡建制保持不变。调整后，乡镇平均人口3.69万，平均面积72.76平方千米。
2010年第六次人口普查，高平市常住总人口484862人，其中，北城街道43559人，东城街道41948人，南城街道66032人，米山镇29906人，三甲镇22916人，神农镇21020人，陈区镇28186人，北诗镇28324人，河西镇43539人，马村镇31569人，野川镇21027人，寺庄镇42936人，建宁乡17778人，石末乡15293人，原村乡19224人，永禄乡11605人。
2015年末，高平市辖3个街道、9个镇、4个乡（合计16个），29个居委会、434 个村委会（合计463个）。