今晋中市春秋属晋，战国属赵。秦、汉以后属太原郡、太原府管辖。1949年设立榆次专区，1958年改称晋中专区，1970年改为晋中地区，1999年改为地级晋中市。
1949年，设立榆次专区，专署驻榆次县，辖榆次、平定、盂县、寿阳、祁县、太谷、介休、灵石、平遥、昔阳、和顺、左权（原辽县）、榆社等13县及阳泉工矿区；设立汾阳专区，专署驻汾阳县，辖汾阳、交城、文水、清源、晋源（驻太原市）、徐沟、孝义、中阳、石楼等9县。1951年，原阳泉工矿区改设阳泉市，由省直辖；撤销汾阳专区，将灵石、孝义、汾阳、文水、交城、清源、徐沟等7县划归榆次专区，石楼县划归临汾专区，中阳县划归兴县专区，晋源县撤销并入太原市；榆次专区辖19县。1952年，将清源、徐沟2县合并设清徐县（驻清源县城）；原兴县专区所属方山、离石、临县、中阳等4县划入榆次专区；方山县迁驻圪洞；榆次专区辖22县。1954年，将榆次县城关区改设榆次市，由省直辖；离石、方山2县合并，改名为离山县（驻原离石县城）；榆次专区辖21县。
1958年，榆次专区改为晋中专区；原由省直辖的榆次、阳泉2市划归晋中专署领导；撤销榆次、寿阳2县，并入榆次市；撤销清徐、交城、文水3县，将清徐县并入太原市；交城县并入太原市和汾阳县；文水县并入汾阳县。撤销平定、昔阳、盂县3县，并入阳泉市；撤销左权县，并入和顺县；撤销祁县，并入太谷县；撤销灵石、孝义2县，并入介休县；撤销离山、中阳2县，合并设立离石县（驻原离石县城）；撤销榆社县，并入晋东南专区的武乡县；晋中专区辖2市、7县。1960年，恢复昔阳、盂县、寿阳、中阳、文水、交城、左权、榆社8县；晋中专区辖2市、15县。1961年，阳泉市改由省直辖；恢复平定、祁县、灵石、孝义4县；晋中专区辖1市、19县。1963年，撤销榆次市，恢复榆次县。至此，晋中专区辖20县。
1967年，晋中专区改称晋中地区。1970年，省直辖的阳泉市由晋中地区代管。晋中地区驻榆次县，辖阳泉市及榆次、寿阳、盂县、平定、昔阳、和顺、左权、榆社、太谷、祁县、平遥、介休、灵石、孝义、汾阳、文水、交城、中阳、离石、临县等20县。1971年，恢复榆次市，榆次县迁驻长凝；将临县、交城、离石、汾阳、文水、孝义、中阳等7县划归吕梁地区；晋中地区辖2市、13县。1972年，阳泉市改由省直辖，晋中地区辖1市、13县。1975年，榆次县迁驻榆次市。1983年7月28日，国务院批复同意：撤销榆次县，将榆次县的行政区域并入榆次市；将晋中地区的平定、盂县二县划归阳泉市管辖。1992年2月10日，民政部（民行批〔1992〕13号）批复：经国务院批准，同意撤销县，设立介休市（县级）。
1999年9月24日，国务院（国函〔1999〕124号）批复：一、同意撒销晋中地区和县级榆次市， 设立地级晋中市。市人民政府驻新设立的榆次区。二、晋中市设立榆次区，以原县级榆次市的行政区域为榆次区的行政区域。区人民政府驻东顺城街。三、晋中市辖原晋中地区的太谷县、祁县、平遥县、灵石县、榆社县、左权县、和顺县、昔阳县、寿阳县和新设立的榆次区，原晋中地区的县级介休市由山西省直辖。
2000年第五次人口普查，晋中市常住总人口3016536人，其中，榆次区534357人，榆社县126173人，左权县156203人，和顺县134522人，昔阳县221361人，寿阳县210184人，太谷县255807人，祁县253829人，平遥县477373人，灵石县243734人，介休市372993人。
2010年第六次人口普查，晋中市常住总人口3249425人，其中，榆次区635651人，榆社县134648人，左权县161314人，和顺县144178人，昔阳县227896人，寿阳县211014人，太谷县298783人，祁县265310人，平遥县502712人，灵石县261402人，介休市406517人。
2015年末，晋中市常住人口333.57万人。共有17个街道、59个镇、59个乡（合计135个），220个居委会、2725个村委会（合计2945个）。