战国时秦置上圭县，西汉元鼎二年（前115）析上圭县置清水县。因地处古陇坂，俗名关山，上有清泉，四注而下，以清泉四注得清水而名。金析置冶坊县，元省冶坊入清水县。1958年与张家川回族自治县合并置清水回族自治县，1961年恢复清水县。
1996年，清水县面积1986平方千米，人口28.6万人。辖1个镇、23个乡：永清镇、上邽乡、白沙乡、红堡乡、小泉乡、太坪乡、玉屏乡、白驼乡、松树乡、王河乡、远门乡、土门乡、郭川乡、金集乡、贾川乡、丰望乡、草川铺乡、陇东乡、黄门乡、新城乡、秦亭乡、百家乡、旺兴乡、山门乡。县政府驻永清镇。
2000年第五次人口普查，全县常住总人口279207人，其中，永清镇24357人，上圭乡20386人，白沙乡16949人，红堡乡13152人，小泉乡5984人，太坪乡5712人，白驼乡10202人，玉屏乡5868人，松树乡12755人，王河乡11731人，远门乡11290人，土门乡14916人，郭川乡17893人，金集乡15545人，贾川乡12054人，丰旺乡9438人，草川乡10843人，陇东乡10945人，黄门乡13561人，新城乡10709人，秦亭乡7664人，百家乡7175人，山门乡6624人，旺兴乡3454人。
2003年1月山门撤乡建镇。2004年1月，；撤销秦亭乡、百家乡，设立秦亭镇；撤销旺兴乡，并入山门镇。
2008年末，清水县面积2012平方千米，辖6个镇、12个乡：永清镇、红堡镇、白驼镇、金集镇、秦亭镇、山门镇、白沙乡、松树乡、王河乡、远门乡、土门乡、郭川乡、贾川乡、丰望乡、草川铺乡、陇东乡、黄门乡、新城乡。共有260个行政村，1118个村民小组，农业人口6.21万户29.48万人。
2010年第六次人口普查，清水县常住总人口266908人，其中，永清镇55595人，红堡镇20868人，白驼镇15555人，金集镇13250人，秦亭镇13478人，山门镇9486人，白沙乡14584人，松树乡11581人，王河乡12410人，远门乡9830人，土门乡13487人，郭川乡15276人，贾川乡10587人，丰望乡8540人，草川铺乡9012人，陇东乡10814人，黄门乡12194人，新城乡10361人。
2015年，省民政厅批复同意：清水县撤销白沙乡，设立白沙镇（甘民复〔2015〕12号）；撤销王河乡、郭川乡、黄门乡，设立王河镇、郭川镇、黄门镇（甘民复〔2015〕113号）。