西汉置北新城县。北魏改称新城县。隋始名遂城县，金改遂城州。明改安肃县。1914年因与甘肃省安肃县重名，改为徐水县，以境内有徐水流经而得名。2015年4月28日，国务院（国函[2015]73号）批复同意撤销徐水县，设立保定市徐水区，以原徐水县的行政区域为徐水区的行政区域，徐水区人民政府驻安肃镇永兴中路11号。
1952年8月1日，华北行政委员会批准将徐水县所辖的宁庄、南于庄、詹庄、千枝柳4个村划归清苑县。1958年8月6日，保定专员公署批准将徐水县所辖的徐河桥乡划归保定市郊区。1958年，撤销容城县、安新县，将原2县的行政区域全部以及原定兴县固城公社划归徐水县。1960年恢复安新县，1961年将固城等29个村重新划归恢复设立的定兴县。1961年12月23日，容城县与徐水县分设，恢复容城县建制。
1996年，徐水县面积748平方千米，人口56万人，辖7个镇、7个乡：安肃镇、崔庄镇、大因镇、高林村镇、漕河镇、大王店镇、遂城镇、正村乡、釜山乡、留村乡、瀑河乡、义联庄乡、史端乡、户木乡。县政府驻安肃镇。
1998年12月21日，河北省政府批准同意调整保定市部分县区的行政区划。其中：徐水县划出5个村，0.9万人，12平方千米。即将漕河镇所辖的杨指挥营、路家寺、杨村3个村和留村乡所辖的太保营南常保2个村划归北市区百楼乡。漕河镇继续管辖剩余的17个村；留村乡继续管辖剩余的18个村。至此，徐水县辖7镇7乡，共304个村，54.8万人，730平方千米。
2000年第五次人口普查，徐水县常住总人口553557人，其中：安肃镇117158人，崔庄镇66214人，大因镇53432人，遂城镇49281人，高林村镇43427人，大王店镇42898人，漕河镇34193人，东史端乡33733人，留村乡28436人，正村乡25185人，户木乡23025人，瀑河乡14910人，东釜山乡13006人，义联庄乡8659人。
2010年第六次人口普查，徐水县常住总人口563030人，其中：安肃镇141211人，崔庄镇66747人，大因镇53868人，遂城镇45637人，高林村镇40729人，大王店镇39184人，漕河镇33958人，东史端乡32808人，留村乡28052人，正村乡23750人，户木乡22694人，瀑河乡13831人，东釜山乡12820人，义联庄乡7741人。