战国时期属赵国。西汉时为桃县地，史称桃城，属信都国。东汉改属乐城国，三国时属冀州。隋开皇十六年（596）始置衡水县。，属冀州。大业三年罢州，属信都郡。唐、宋、辽、金时属冀州。元中统二年改属深州。清初属正定府，雍正二年改属冀州。1913年属直隶冀南道，次年改属大名道，1928年废道直属河北省。1937年属河北省第九督察区。抗日战争和解放战争时期属冀南行署管辖。
1947年设衡水市，次年撤销。1949年初属衡水专区。1952年改属石家庄专区。1962年复属衡水专区。1982年1月，经国务院批准，以衡水城关镇的行政区域为基础设立衡水市，属衡水地区行署管辖。1983年3月，撤销衡水县，其行政区域划归衡水市。1996年7月，衡水地区行署改建为衡水市，原县级衡水市改为桃城区。
1996年，桃城区面积590平方千米，人口约38.6万人。辖3个街道、2个镇、4个乡：河西街道、河东街道、路北街道、赵家圈镇、郑家河沿镇、大麻森乡、邓家庄乡、彭杜村乡、何家庄乡。区政府驻人民路。
2000年第五次人口普查，桃城区常住总人口422761人，其中：河西街道126656人，河东街道51097人，路北街道30165人，郑家河沿镇40462人，赵家圈镇39627人，何家庄乡32002人，大麻森乡34728人，邓家庄乡28326人，彭杜村乡34389人，高新技术产业园区5309人。
2002年，桃城区面积591.6平方千米，人口约42.54万人。辖4个街道、2个镇、4个乡：河西街道、河东街道、路北街道、中华（大街）街道、郑家河沿镇、赵圈镇、何家庄乡、大麻森乡、邓家庄乡、彭杜村乡。共有42个社区、354个村委会。区政府驻人民中路568号。
2010年第六次人口普查，桃城区常住总人口522147人，其中：河西街道72011人，河东街道56215人，路北街道50407人，中华（大街）街道113905人，郑家河沿镇39166人，赵家圈镇33576人，何家庄乡26467人，大麻森乡26756人，邓家庄乡26081人，彭杜村乡31060人，衡水高新技术产业开发区40310人，衡水湖自然保护区管理处6193人。
2013年，撤销邓家庄乡，设立邓庄镇（冀民函[2013]16号）。调整后，全区辖4个街道、3个镇、3个乡：河西街道、河东街道、路北街道、中华大街街道、郑家河沿镇、赵圈镇、邓庄镇、何家庄乡、彭杜村乡、大麻森乡。