绛县，史称古绛，因“县北绛山为名也”。据清乾隆《绛县志》：“绛山在县西北二十里，……一名紫金山。草木不生，土色俱赤，且以此取名焉。”春秋属晋，汉属绛县（今曲沃），东汉属绛邑县（今曲沃）。北魏太和十八年（494年）于今县城北17千米大交镇置南绛县，属正平郡。后徙治今城关南4千米东南城区村。
建义元年（528年）于县置南绛郡，县属之。西魏大统五年（539年）改绛县、绛郡。北周于县置晋州，建德五年（576年）废。隋开皇三年（583年）罢郡，县属绛州。大业初年属绛郡。义宁元年（617年）属翼城郡。唐武德元年（618年）徙治今城关，属浍州。四年属绛州。
宋属绛州绛郡。金兴定初年属晋安府，四年（1220年）割属翼州。元复属绛州。清属平阳府。雍正七年（1729年）还属绛州。民国初年废州，县改属河东道，道废后直属省。1949年属运城专区。1954年属晋南专区。1958年废。1961年复置。1967年属晋南地区。1970年属运城地区。
1997年末，绛县面积986平方千米，人口26.71万人。辖8个镇、6个乡：城关镇、南樊镇、横水镇、大交镇、安峪镇、陈村镇、卫庄镇、磨里镇、勃村乡、中杨乡、郝庄乡、东山底乡、冷口乡、续鲁峪乡。共有212个行政村，637个自然村。县政府驻城关镇。
2000年第五次人口普查，绛县常住总人口264708人，其中，城关镇38334人，横水镇25300人，陈村镇11980人，卫庄镇18864人，磨里镇11501人，南樊镇24911人，安峪镇27839人，大交镇27924人，山底乡19040人，郝庄乡19697人，冷口乡9969人，勃村乡13926人，中扬乡11679人，续鲁峪乡3744人。
2001年，撤销城关镇、勃村乡、中杨乡，合并成立古绛镇；撤销东山底乡，并入横水镇；撤销续鲁峪乡，续鲁峪、裴家岭、洪家山、南坂、北坂5村并入大交镇，长畛岭、冯村岭、丁家凹、大神殿、小神殿5村并入安峪镇。调整后，全县辖8个镇、2个乡：古绛镇、横水镇、陈村镇、卫庄镇、么里镇、南樊镇、安峪镇、大交镇、郝庄乡、冷口乡。县政府驻古绛镇。
2010年第六次人口普查，绛县常住总人口281643人，其中，古绛镇83478人，横水镇46681人，陈村镇11150人，卫庄镇13659人，磨里镇9747人，南樊镇24060人，安峪镇29561人，大交镇28660人，郝庄乡18790人，冷口乡8916人，山西绛县经济开发区6941人。
2015年末，绛县辖8个镇、2个乡（合计10个），3个居委会、205个村委会（合计208个）。