原为雅鲁县、布特哈旗。1983年改布特哈旗为扎兰屯市。“扎兰”系满语，意为“参领”，为清代官职名。雅鲁县，以流经境内之雅鲁河得名。雅鲁，满语“田边”、蒙古语“河边”之意。
清代之前为人迹罕至之地。清代，属黑龙江将军齐齐哈尔副都统辖区。清初由于沙俄侵入黑龙江北岸，世代生活在那里的鄂温克、鄂伦春、达斡尔猎民被迫移居嫩江流域。清政府将流入嫩江流域的少数民族编为布特哈八旗（布特哈系满语，意为“渔猎、打牲”），市境属正蓝旗和镶黄旗。民国初期归黑龙江省龙江道管辖。1916年3月和7月，先后设济沁河稽垦局和扎兰屯稽垦局。1925年12月1日，黑龙江省长公署训令，将扎兰屯、济沁河二稽垦局所属地区合并，设置雅鲁设治局。翌年2月，正式委官设局，隶属黑龙江省龙江道。1929年1月，将雅鲁设治局升改雅鲁县，同年12月行政院核准，由黑龙江省直辖，时为三等县。
东北沦陷后，1933年1月，划归兴安东分省管辖，伪兴安东分省公署驻扎兰屯。同年3月，将雅鲁县改为布特哈旗。1945年抗日战争胜利后，1946年6月，隶属兴安省纳文慕仁盟。1949年4月，改隶呼伦贝尔纳文慕仁盟。1953年4月，改隶内蒙古自治区东部行政公署。1954年5月，改隶呼伦贝尔盟。1969年7月，随同呼伦贝尔盟一并划归黑龙江省管辖。1979年7月，划归内蒙古自治区管辖，仍隶呼伦贝尔盟。1983年10月10日，国务院批准，撤销布特哈旗，设立扎兰屯市（县级），翌年1月1日，正式撤旗设市。
1997年，扎兰屯市面积16800平方千米，人口42万。辖6个街道、10个镇、8个乡、3个民族乡：兴华街道、正阳街道、繁荣街道、向阳街道、铁东街道、河西街道、成吉思汗镇、蘑菇气镇、柴河镇、哈拉苏镇、卧牛河镇、哈多河镇、雅尔根楚镇、务大哈气镇、大河湾镇、中和镇、南木鄂伦春民族乡、萨马街鄂温克民族乡、达斡尔民族乡、洼堤乡、牤牛沟乡、团结乡、惠风川乡、太平川乡、库堤河乡、关门山乡、浩饶山乡。市政府驻扎兰屯。
2000年第五次人口普查，扎兰屯市总人口409051人，其中：兴华街道26733人，正阻街道23588人，铁东街道13989人，河西街道12556人，繁荣街道21429人，向阳街道30422人，成吉思汗镇31019人，蘑菇气镇14169人，卧牛河镇29507人，中和镇16723人，哈拉苏镇9573人，柴河镇8189人，大河湾镇22944人，雅尔根楚镇15383人，务大哈气镇15694人，哈多河镇12339人，库堤河乡13402人，关门山乡11267人，团结乡15728人，达斡尔民族乡11157人，萨马街鄂温克民族乡8748人，鄂伦春民族乡8453人，洼堤乡9992人，惠风川乡7089人，牤牛沟乡6385人，太平川乡7705人，浩饶山乡4868人。
2005年，扎兰屯市辖6个街道、10个镇、6个乡（其中3个民族乡）：兴华街道、正阳街道、繁荣街道、向阳街道、铁东街道、河西街道、磨菇气镇、中和镇、雅尔根楚镇、柴河镇、哈多河镇、哈拉苏镇、卧牛河镇、高台子镇、成吉思汗镇、大河湾镇、达斡尔民族乡、鄂伦春民族乡、浩饶山乡、洼堤乡、萨马街鄂温克民族乡、关门山乡。
2006年，将6个街道、10个镇、6个乡调整为7个街道、6个镇、3个乡：撤销哈拉苏镇，将哈拉苏镇的2个村（三道桥、四道桥）并入卧牛河镇，将哈拉苏镇所辖4个村（大兴、东窑、道南、双北）及1个居委会（黎明）并入鄂伦春民族乡；撤销高台子镇，将高台子镇的2个村（尖山子、沙里沟）、成吉思汗镇的5个村（火车头、前进、永丰、永兴、金星）并入大河湾镇；撤销雅尔根楚镇，将其原管辖的行政区域整建和高台子镇的10个村（朝阳岗、石桥、奋斗、古里金、建设、长青、大旗、马家、河口、光明）和1个居民委员会（永平）并入成吉思汗镇；将高台子镇的4个村（高台子、五一、鲜光、近郊）划入市区设立高台子街道（本站注：并划入向阳街道的建设、糖厂2个居委会）；撤销哈多河镇、洼堤乡，合并设立洼堤镇；撤销关门山乡、中和镇，并入蘑菇气镇；撤销柴河镇、浩饶山乡，合并设立浩饶山镇。调整后：卧牛河镇面积1550.43平方千米，人口27864人，辖13个行政村和1个居委会，驻地卧北；鄂伦春民族乡面积2160.53平方千米，人口16761人，辖6个行政村和1个居委会，驻地南木；成吉思汗镇面积1176.14平方千米，人口62537人，辖29个行政村和4个居委会，驻地成吉思汗；大河湾镇面积581.11平方千米，人口33998人，辖14个行政村和1个居委会，驻地镇德川；高台子街道面积147.9平方千米，人口16474人，办事处设在原高台子镇政府所在地；蘑菇气镇面积1435平方千米，人口78495人，辖31个行政村和3个居委会，驻地蘑菇气；洼堤镇面积1189.59平方千米，人口22085人，辖11个行政村和1个居委会，驻地河北乡；浩饶山镇面积6386.67平方千米，人口8602人，辖3个行政村和2个居委会，驻地四五六山下。同时在已撤销的乡镇设置办事处：在原中和镇政府驻地设置蘑菇气镇中和办事处；在原关门山乡政府驻地设置蘑菇气镇关门山办事处；在原雅尔根楚镇政府驻地设置成吉思汗镇雅尔根楚办事处；在原洼堤乡政府驻地设置洼堤镇色吉拉呼办事处；在原柴河镇政府驻地设置浩饶山镇柴河办事处；在原哈拉苏镇政府驻地设置鄂伦春民族乡哈拉苏办事处。
2006年末，全市总面积16926.3平方千米。总人口431666人，其中农业人口266139人，非农业人口165527人；少数民族59158人。辖6个镇、3个民族乡和7个街道。
2009年末，全市总面积16926.3平方千米。总人口429895人，其中农业人口262679人，非农业人口167216人；少数民族60004人。辖兴华、正阳、繁荣、向阳、河西、铁东、高台子7个街道，成吉思汗、蘑菇气、卧牛河、大河湾、洼堤、浩饶山6个镇，萨马街鄂温克、达斡尔、鄂伦春3个民族乡。
2011年，撤销洼堤镇（1居11村），设立哈多河镇（1居6村）、洼堤乡（5村）；将浩饶山镇的石桥、振兴2个居委会划出设立柴河镇；将磨菇气镇的1居12村、成吉思汗镇的1居8村划出设立中和镇；将大河湾镇的尖山子、沙里沟2村划归高台子街道管辖，将高台子街道的五一村划归成吉思汗镇管辖。调整后，全市辖7个街道、8个镇、4个乡（其中3个民族乡）：兴华街道、正阳街道、繁荣街道、向阳街道、高台子街道、铁东街道、河西街道、磨菇气镇、卧牛河镇、成吉思汗镇、大河湾镇、浩饶山镇、柴河镇、中和镇、哈多河镇、达斡尔民族乡、鄂伦春民族乡、萨马街鄂温克民族乡、洼堤乡。