自南朝光大二年（568年）莆田置县时起，涵江即属之。唐贞观元年（627年），境内围海造田，筑涵（即水闸）排涝，故称其地为涵头（为涵江最早地名）。宋代，“刘氏初开水心河”，始有“涵江”之称。
宋元时期，境内分属莆田县唐安乡望江里、延寿里，崇业乡孝义里，武化乡仁德里。明清两代，分属莆田县二区延寿里、望江里、仁德里和三区孝义里。民国时期，隶属莆田县二区。
新中国成立初至1984年5月，涵江仍隶属莆田县。1984年6月，涵江升格为莆田市辖区。1992年8月，省政府批准涵江为改革开放综合试验区。1993年，进行撤乡、建镇和扩办（街道办事处），成立三江口、白塘、国欢3个镇和涵东、涵西2个街道，下辖49个村委会和10个居委会。
1996年，涵江区面积60平方千米，人口约17万人，辖2个街道、3个镇：涵东街道、涵西街道、三江口镇、白塘镇、国欢镇。区政府驻区政府路。
2000年第五次人口普查，涵江区常住总人口213110人，其中：涵东街道43354人，涵西街道30369人，三江口镇53469人，白塘镇42307人，国欢镇43611人。
2002年2月，经国务院批准，莆田市进行部分行政区划调整，原莆田县的江口、梧塘、萩芦、白沙、新县、庄边6个镇和大洋乡以及赤港经济开发区划归涵江区管辖。调整后的涵江区辖有九镇一乡两街以及赤港华侨经济开发区，辖区面积由60平方千米拓展为752平方千米。
2003年，涵江区辖2个街道、9个镇、1个乡：涵东街道、涵西街道、三江口镇、白塘镇、国欢镇、江口镇、梧塘镇、萩芦镇、白沙镇、庄边镇、新县镇、大洋乡。
2010年第六次人口普查，涵江区常住总人口470097人，其中：涵东街道58640人，涵西街道37348人，三江口镇54722人，白塘镇46490人，国欢镇53883人，梧塘镇47085人，江口镇96895人，萩芦镇20797人，白沙镇12277人，庄边镇15202人，新县镇12840人，大洋乡9042人，赤港开发区4876人。