春秋为晋大夫阳处父邑。西汉因置阳邑县，故治在今城关东8千米阳邑村，属太原郡。新莽改繁穰县，东汉复旧。北魏太平真君九年（448）废，景明二年（501）复置，属太原郡。北周建德六年（577）徙治白塔村，即今城关。
隋开皇三年（583）改属并州，十八年改太谷县，“因县西太谷为名”。大业三年（607）复属太原郡。唐武德三年（620）于县置太州，县属之。六年废太州，县属并州。开元十一年（723）属太原府。金属晋州。元属冀宁路。
明、清俱属太原府。1912年属冀宁道，道废后直属省。抗日战争时期分置路东、路西2县，属太行行署。1948年复为太谷县。1949年属榆次专区。1958年祁县并入，属晋中专区。1961年祁县析出。1967年属晋中地区。1999年属晋中市。
1996年，太谷县面积1034平方千米，人口约21万人。辖3个镇、11个乡：城关镇、胡村镇、范村镇、城关乡、侯城乡、北洸乡、水秀乡、阳邑乡、小白乡、任村乡、王公乡、窑子头乡、东庄乡、浒泊乡。县政府驻城关镇。
2000年第五次人口普查，太谷县常住总人口255807人，其中，城关镇57435人，胡村镇47199人，范村镇12313人，城关乡23480人，侯城乡32086人，北汪乡25046人，水秀乡24489人，阳邑乡19622人，小白乡17203人，任村乡15937人，王公乡3626人，窑子头乡人，2077东庄乡3237人，浒泊乡2057人。
2001年初，撤销城关乡，并入城镇，更名为明星镇；撤销王公乡，并入范村镇；撤销东庄乡、浒泊乡，并入侯城乡；撤销窑子头乡，并入阳邑乡；调整后，太谷县辖3个镇、6个乡。
2010年第六次人口普查，太谷县常住总人口298783人，其中，明星镇82981人，胡村镇45359人，范村镇13230人，侯城乡56420人，北汪乡22690人，水秀乡23585人，阳邑乡23696人，小白乡15656人，任村乡15166人。
2014年末，全县常住人口306013人。2015年末，太谷县辖3个镇、6个乡（合计9个），16个居委会、198个村委会（合计214个）。