西晋泰始年间于今城关北18千米社城镇置武乡县，属上党郡。东晋大兴二年（319）十六国后赵于武乡县置武乡郡。永和中年废郡。北魏延和二年（433）改武乡县为乡县，于县置乡郡。太和十五年（491）郡、县治徙今长治市武乡县境。隋开皇十六年（596）析乡县地置榆社县，属韩州，“因县西北榆社故城为名”，大业二年（606）废入乡县。义宁二年（618）复置，属太原郡。唐武德三年（620）于县置榆州；于今城关南15千米魏城村别置偃武县，与榆社县俱属榆州。六年废州，偃武县并入榆社县，属辽州，后又改属仪州。
宋熙宁七年（1074）废入武乡县。元佑元年（1086）复置，属榆州。蒙古至元三年（1266）废入辽山县。六年复置，属辽州。1912年属冀宁道，道废后直属省。抗日战争时期析置榆北县，属太行区二专署，后并入榆社县。1949年属榆次专区。1958年并入武乡县。1960年复置，属晋中专区。1967年属晋中地区。1999年属晋中市。
1949年12月，和顺县的曲礼、堡下、双峰、石源等12个行政村、34个自然村划归榆社县。1953年7月，榆社县的青王头、小后凹、佛家山等9个自然村划归武乡县。1956年，和顺县的焦红寺、沙旺、琵琶窑、大牛、菜不测5村和太谷县的山头、武庄村划归榆社县。 1961年6月1日，太谷县的白壁、牌坊、常瑞、寺儿等16个自然村划归榆社县，设白壁公社。1971年，武乡县的石盘公社12个生产大队、25个自然村划归榆社县。1972年，原划入榆社县的石盘公社12个生产大队、25个自然村重归武乡县。
1996年，榆社县面积1680平方千米，人口约13万人。辖4个镇、10个乡：城关镇、云竹镇、郝北镇、社城镇、河峪乡、西马乡、岚峪乡、讲堂乡、东汇乡、北寨乡、韩村乡、银郊乡、白北乡、两河口乡。县政府驻城关镇。
2000年第五次人口普查，榆社县常住总人口126173人，其中，城关镇38372人，云簇镇16529人，郝北镇10266人，社城镇6210人，银郊乡5591人，东汇乡4317人，河峪乡11176人，韩村乡3560人，岚峪乡5939人，讲堂乡4315人，西马乡9076人，北寨乡7894人，白北乡1500人，两河口乡1428人。
2001年初，撤销银郊乡、东汇乡，并入城关镇，更名为箕城镇；撤销两河口乡，并入社城镇；撤销韩村乡，并入郝北镇；撤销白北乡，并入西马乡；调整后，榆社县辖4个镇、5个乡。县政府驻箕城镇。
2010年第六次人口普查，榆社县常住总人口134648人，其中，箕城镇43484人，云簇镇16153人，郝北镇13063人，社城镇6546人，河峪乡11141人，北寨乡6656人，西马乡10191人，岚峪乡4032人，讲堂乡2701人，城区管理委员会20681人。
2014年末，全县常住人口138041人。2015年末，榆社县辖4个镇、5个乡（合计9个），6个居委会、271个村委会（合计277个）。