因境内清水河而得名。清乾隆元年（1736年）设置清水河协理通判厅，光绪十年（1884年）改为抚民通判厅。民国3年（1914年）改厅为清水河县，隶属绥远特别区。1949年起先后属萨县专区、集宁专区、平地泉行政区、乌兰察布盟管辖。1996年划归呼和浩特市管辖。
1997年，清水河县面积2859平方千米，人口约13万人，其中蒙古族约700人。辖2个镇、12个乡：城关镇、喇嘛湾镇、小庙子乡、艽菜庄乡、盆地青乡、北堡乡、暖泉乡、单台子乡、桦树也乡、窑沟乡、小缸房乡、王桂夭乡、五良太乡、杨家夭乡。县政府驻城关镇。 （有126个行政村，832个自然村）
2000年第五次人口普查，清水河县总人口125748人，其中：喇嘛湾镇15353人，城关镇22813人，小庙子乡14834人，韭菜庄乡8699人，盆地青乡4210人，暖泉乡7024人，北堡乡5064人，窑沟乡10166人，单台子乡6059人，桦树也乡3936人，小缸房乡4638人，五良太乡7403人，杨家窑乡4557人，王桂窑乡10992人。
2001年？，撤销小缸房乡，并入窑沟乡；撤销盆地青乡，并入杨家窑乡；撤销桦树也乡，并入单台子乡。调整后，清水河县辖2个镇、9个乡：喇嘛湾镇、城关镇、小庙子乡、窑沟乡、王桂窑乡、北堡乡、暖泉乡、单台子乡、杨家窑乡、五良太乡、韭菜庄乡。
？年，撤销王桂窑乡，设立宏河镇。调整后，清水河县辖3个镇、8个乡：喇嘛湾镇、城关镇、宏河镇、小庙子乡、窑沟乡、北堡乡、暖泉乡、单台子乡、杨家窑乡、五良太乡、韭菜庄乡。共有102个行政村、6个居委会，780个自然村。
2006年，撤销小庙子乡、杨家窑乡，将小庙乡原管辖的行政区域整建制和杨家窑乡的6个村（大湾、杨家天、韩庆坝、石湾子、西山沟、孔读林）并入城关镇；撤销五良太乡，将其原管辖的行政区域整建制并入宏河镇；撤销单台子乡，将其原管辖的行政区域整建制并入窑沟乡；将杨家窑乡的6个村（盆地青、三岔河、座峰、朱毛草、七冬沟、对九沟）并入韭菜庄乡；撤销暖泉乡，将其原管辖的行政区域整建制并入北堡乡。
2006年，清水河县总面积2859平方千米，总人口13.6万人，其中非农业人口2.03万人，辖3个镇、3个乡，108个村（居）委会，780个自然村。2009年，清水河县总面积2859平方千米，总人口14.3万人。
2012年，恢复五良太乡、单台子乡。调整后，清水河县辖3个镇、5个乡：城关镇、宏河镇、喇嘛湾镇、窑沟乡、北堡乡、韭菜庄乡、五良太乡、单台子乡。