绥滨，在绥东设治局改设县制时，以其县城东部的绥东江岸旧绥滨埠，命名绥滨县。因其地处边境，又濒松花江，乃取“绥靖”（安抚）和“滨江”之意。隋唐属黑水靺鞨部，后归黑水都督府，辽属女真五国部的“奥里米部”，金属胡里改路，明属奴儿干都司，清为黑龙江副都统辖区。清末，1910年（清宣统二年），经汤原县知县奏请批准，在高家屯（今绥滨县临江村）设分防巡检。中华民国成立后，1912年7月，划归萝北厅设治局管辖，1913年末改为高家屯警察事务所。翌年7月1日，改设萝北县高家屯佐治局。因高家屯以姓名屯，“似欠雅驯”，1914年10月9日，奉令改为绥东城县佐。
1917年3月30日，根据黑河道尹的呈请，黑龙江省长公署批准，以绥东县佐所辖区域设置绥东设治局，隶属黑龙江省黑河道。同年4月13日，北京政府内务部正式照准。1926年9月，将设治局移至敖来密屯（今绥滨镇西敖来村），1927年于敖来村东一千米处始放新街基（今绥滨镇），并将设治局迁驻新建局署。1929年1月9日，黑龙江省长公署核准，将绥东设治局升改绥东县。因与热河省绥东县重名，省长公署又于1月23日发布训令，决定将绥东县改为绥滨县，直隶黑龙江省管辖。为三等县，全县总人口2.57万人。东北沦陷后，初隶黑龙江省，1934年12月划归三江省管辖。
1945年“九三”抗日战争胜利后，划归合江省管辖。1949年5月，撤销合江省，改隶松江省。同年6月23日，东北行政委员会批准，撤销绥滨县，并入富锦县。60年代初，为了加强边境地区的工作和对农业生产的领导，1963年12月30日，国务院批准，恢复绥滨县，以富锦县松花江以北的绥滨地区为绥滨县的行政区域，县址设于绥滨镇，隶属合江专区。1964年2月11日，省人民委员会下发通知，筹备设立绥滨县，同年3月两县正式分开。1985年1月，正式撤销合江地区，划归佳木斯市领导。1987年11月6日，国务院批准，划归鹤岗市领导。
1992年末，绥滨县位于黑龙江省东北部，三江平原北缘。北以黑龙江与俄罗斯分界，南濒松花江与富锦市、桦川县一水相连，西与萝北县接壤，东隔松花江与同江市相望。全县总面积3335平方千米。总人口17.1万人，其中非农业人口5.2万人；满、蒙古、回、朝鲜、赫哲等少数民族人口约占总人口的5%。辖3镇、9乡。县政府驻地绥滨镇。（以上摘自《黑龙江省志·地名录》，有改动）
2000年第五次人口普查，绥滨县总人口176086人，其中：绥滨镇32964人，绥东镇16048人，忠仁镇17730人，连生乡12465人，北岗乡10939人，富强乡5018人，北山乡4888人，福兴乡4321人，新富乡3502人，大同乡8586人，中兴乡2374人，二九○农场25530人，绥滨农场19183人，普阳农场12438人。