昂昂溪区名源于驻地名称。清初形成聚落，清代晚期称昂阿奇屯，后音转今名。昂阿奇，达斡尔语，意为“狩猎场”。清末，中东铁路通车设站，并被划为铁路附属地。由于它是中东铁路西部线中间的一个重要火车站，商工、运输各业迅速发展，形成了较为繁荣的小城镇，1926年以前总人口超过2.4万人。
1926年洮昂铁路竣工通车，不少人移往洮南、通辽等新兴城市，特别是沦为日本殖民地以后，人口显著减少，到1937年全城人口减至1.3万人，原有4000多俄人只剩200多人，而日本人则由30多人增至600多人。1938年伪满实行街村制，昂昂溪为龙江县属昂昂溪街。
1946年6月，划归新设置的龙东县管辖，县政府驻昂昂溪街。1948年3月，将龙东县并入龙江县，设置第九区。1952年10月，设置区级昂昂溪镇。1954年10月，划归齐齐哈尔市管辖，遂设市辖昂昂溪区。1961年8月，将榆树屯管理区划归昂昂溪区，并改称农业分社。1973年，将郊区水师营公社划归昂昂溪区。
1992年末，昂昂溪区位于齐齐哈尔市境南端，北距市中心23千米。东邻杜尔伯特蒙古族自治县，南与泰来县毗连，西与富拉尔基区接壤，北抵龙沙区。全区总面积623平方千米。总人口9.46万人，其中非农业人口5.85万人；满、回、朝鲜等少数民族人口约占9%。辖新兴、化工、林机、新建、三间房、道北等6个街道和榆树屯等3个乡镇。区政府驻地区府路。（以上摘自《黑龙江省志·地名录》，有改动）
1996年，昂昂溪区辖6个街道、1个镇、2个乡：新兴街道、新建街道、道北街道、三间房街道、化工街道、林机街道、水师营满族镇、昂昂溪乡、榆树屯乡。
2000年第五次人口普查，昂昂溪区总人口90647人，其中：新兴街道15850人，新建街道11240人，化工街道11272人，三间房街道5819人，林机街道3827人，道北街道12806人，水师营满族镇12608人，昂昂溪乡7895人，榆树屯乡9330人。
2005年7月7日，撤销榆树屯镇, 将原榆树屯镇的大阿拉街村、后五家村、霍托气村划归水师营满族镇管辖，将原榆树屯镇的榆树屯村、头站村、大兴村划归三间房镇管辖（黑民区[2005]80号）。2008年3月27日，黑龙江省民政厅批复，同意将齐齐哈尔市昂昂溪区管辖的三间房镇更名为榆树屯镇，镇人民政府驻榆树屯村。调整后，昂昂溪区辖4个街道、2个镇：新兴街道、新建街道、林机街道、道北街道、水师营满族镇、榆树屯镇。