七台河，由“奇塔河”转音，鄂伦春语，意为“薪屋”。设治时以河得名。七台河原属勃利县，1948年设置七台河区，1951年改为第十二区。1956年3月，撤区划乡，分设七台河、茄子河、中心河3个乡。1958年9月，成立七台河人民公社。同年12月，成立七台河矿区（包括勃利煤矿筹备处）人民公社。1960年3月，设置七台河镇，称七台河镇人民公社。
为适应煤炭生产发展的需要，1965年2月2日，中共中央、国务院批准，设立七台河特区，在七台河煤矿进行“政企合一”试点。特区管辖范围，以原勃利县七台河镇所辖行政区域为特区行政区域，“南北35华里，东西20华里”。特区人民委员会驻原七台河镇，隶属合江专区。同年5月20日，七台河特区人民委员会正式成立，与矿务局“政企合一”，同时撤销七台河镇。1966年9月26日，将勃利县的茄子河、中心河两个公社划归七台河特区管辖。
1970年4月1日，黑龙江省革命委员会根据国务院、中央军委批示，决定撤销七台河特区，设立七台河市（县级），隶属合江地区。1983年10月8日，国务院批准，七台河由县级市升为地级市，改由省直辖；同时将合江地区的勃利县和宝清县的红卫、岚峰两个公社划归七台河市管辖。1984年1月20日，省政府批准，七台河市设立桃山、茄子河、新兴3个市辖区，均为县级建制。至此，全市辖3个区，领导1个县。
1992年，七台河市位于黑龙江省东部，完达山脉西麓。西、北与勃利县和宝清县为邻，东与密山市相连，南与鸡东县接壤。全市总面积1757平方千米（不含市辖县，下同）。总人口45.2万人，其中非农业人口24.2万人，有未落户的常住人口9.5万人。辖新兴、桃山、茄子河3个市辖区。市政府驻桃山区。（以上摘自《黑龙江省志·地名录》，有改动）
2000年第五次人口普查，七台河市总人口807440人。其中：新兴区 195352人、桃山区 157484人、茄子河区 133868人、勃利县 320736人。
2009年12月11日，《黑龙江省民政厅关于调整七台河市部分行政区划的批复》（黑民区[2009]127号）：同意将勃利县长兴乡划归七台河市新兴区管辖。