三国吴在此设三河戊。唐咸亨五年（674年）建县，因兰江古称兰溪，故名兰溪县。元代元贞元年（1295年）升为兰溪州，属江浙行省婺州路。明洪武三年（1370年）复为县。《明史·地理志》始改兰溪为兰谿。民国三年（1914年）废府设金华道，道尹居兰谿。
1933年设兰谿为实验县，翌年又设兰谿区行政督察专员公署。1937年撤实验县复为普通县，兰谿区改称第四专区。1949年5月6日兰谿解放，建立人民政权。1949年11月划城区置兰谿市，翌年又撤市并入县，并改兰谿为兰溪。1985年5月，撇销兰溪县，设立兰溪市。
1992年撤区扩镇并乡，城关镇、溪西乡、岩山乡、上华乡合并设立兰江镇，黄店乡撤乡设镇，殿山乡、和平乡、建设乡并入女埠镇，高潮乡、新周乡合并设立马达镇，马涧乡、姚塘下乡、大塘乡合并设立马涧镇，墩头乡、长陵乡、石埠乡合并设立墩头镇，杨塘乡并入赤溪乡，板桥乡并入灵洞乡，上新方乡并入官塘乡，水阁乡并入柏社乡，圣山畲族乡和水亭乡合并设立水亭畲族乡。（还需补充）
1996年，兰溪市面积1313.6平方千米，人口约65万人。辖12镇13乡：兰江镇、黄店镇、香溪镇、女埠镇、马达镇、横溪镇、永昌镇、诸葛镇、马涧镇、厚仁镇、墩头镇、游埠镇、孟湖乡、张坑乡、芝堰乡、朱家乡、横木乡、白沙乡、赤溪乡、灵洞乡、水亭畲族乡、下陈乡、石渠乡、官塘乡、柏社乡。市政府驻兰江镇。
2000年第五次人口普查，兰溪市总人口607196人；其中：兰江镇155395人，马达镇15738人，游埠镇33634人，永昌镇36485人，诸葛镇23154人，女埠镇42982人，黄店镇18214人，厚仁镇12424人，香溪镇23951人，马涧镇27125人，墩头镇27403人，横溪镇24257人，灵洞乡21198人，张坑乡12815人，盂湖乡15369人，水亭畲族乡19228人，赤溪乡15996人，朱家乡4881人，芝堰乡8360人，官塘乡16806人，石渠乡9662人，柏社乡18596人，横木乡7613人，下陈乡5541人，白沙乡10369人。
2001年12月31日，《浙江省人民政府关于兰溪市行政区划调整的批复》（浙政函[2001]276号）同意兰溪市调整部分行政区划： 一、调整部分行政区域隶属关系：（1）撤销兰江镇、厚仁镇、张坑乡建制，和永昌镇16村（登胜、畈口、东姚、何尖岗、包村、塘下江、清胜塘、胡店、三字桥、前陆、汪高岭、新陈、白山、洪大塘、杜村、大阜张）、女埠镇15村（垫塘边、张塔头、成村、舒村、芷芳岗、殿山、何夏庄、毕家、上叶、尖山、姚村、王畈洋、南楼、新桥山背、胡大山）、灵洞乡费垄口村改由兰溪市政府直辖。（2）调整后，永昌镇辖37村、1居委会，驻永昌村（原址）；女埠镇辖36村、1居委会，驻上街村（原址）；灵洞乡辖15村，驻杨清桥村（原址）。 二、直辖区域内设立云山、兰江、城南3街道办事处：（1）云山街道办事处：管理原兰江镇的塔山、自由路第一、自由路第二、桃花坞、东峰亭、荷塘沿、贵隆巷、莲花南、解放路、延安路、官桥、司上、云山路、东联、龚里塘、马岭背、福兴、后畈、章府里、庙前街、大公殿、和平中、聚仁路、同庆街、兰江路、建国路、工人路一、工人路二、和平北、农灵邨、莲花北、塘湾巷、郑家巷、中山南、中山北、金钟路、永进、邻仙邨、新亭、应麟路、竹园一、竹园二42居委会，茆竹园、余店、黄龙洞、后地、檀树、徐尚源、黄湓、十里亭、蒋宅、枣树、石埠岭、岩头、中徐、化里14村和原属灵洞乡的费垄口村，共42居委会、15村，驻聚仁路。（2）兰江街道办事处：管理原厚仁镇行政区域、原兰江镇的溪西、三市街、下龙滩、兰荫北、兰荫南、红梅、香兰、松竹、青湖、西山一、西山二、康安社区、朝霞、望霞、栖霞、城郊西、圣罗、辅仁18居委会，溪西、上黄、许埠、下金、殿下应、张村、下陈赵、骅骝黄、排岭、何村、应家、黄家、姚家、大塘下、仓里、平阳、外董、水董、长岗、洪施、里何、陈下村、大路口、浩塘头24村、原属永昌镇的登胜等16村和原属女埠镇的垫塘边等15村，共19居委会、68村，驻三江路。（3）城南街道办事处：管理原张坑乡行政区域和原兰江镇的彭村、横山、马鞍徐、石港塘、夏家、下余、上华7村，共19村，办事处驻彭村。【2002年《金华市人民政府关于兰溪市行政区划调整的通知》（金政[2002]1号）】
2002年，兰溪市辖3个街道、10个镇、11个乡、1个民族乡：云山街道、兰江街道、城南街道、游埠镇、诸葛镇、永昌镇、女埠镇、马涧镇、香溪镇、马达镇、黄店镇、墩头镇、横溪镇、柏社乡、灵洞乡、孟湖乡、赤溪乡、官塘乡、下陈乡、白沙乡、石渠乡、芝堰乡、横木乡、朱家乡、水亭畲族乡，共有18个社区、7个居民区、646个行政村。
2004年4月9日，浙政函[2004]60号批复同意兰溪市行政区划调整：（1）撤销芝堰乡、朱家乡建制，并入黄店镇。调整后，黄店镇辖46个行政村，镇政府驻地不变（黄店村）。（2）撤销石渠乡、横木乡建制，并入马涧镇。调整后，马涧镇辖66个行政村、1个居民区，镇政府驻地不变（马二村）。（3）撤销下陈乡建制，与柏社乡合并。调整后，柏社乡辖38个行政村，乡政府驻地不变（柏树下村）。（4）撤销横溪镇、墩头镇、白沙乡建制，合并设立梅江镇。梅江镇辖78个行政村，镇政府驻地定址宋宅村。（5）撤销官塘乡建制，与香溪镇部分行政区域（香一、香二、香三、香四、香五、杨公、洲上、里山坞、西仓、董宅、缪源、密山、东仓、董宅桥、松树塘、保卫、上莲塘、黄沙圩、姚郎、大路、龙潭等21个行政村）合并设立新的香溪镇。新的香溪镇辖43个行政村，镇政府驻香四村（香溪镇原镇政府驻地）。（6）撤销马达镇、永昌镇、女埠镇、孟湖乡、赤溪乡建制，其行政区域与原香溪镇其余行政区域改由兰溪市政府直辖。撤销城南街道建制，与上述区域调整设立上华、永昌、赤溪、女埠等4个街道办事处，作为兰溪市政府的派出机构，并调整云山街道办事处管理范围：①云山街道办事处：扩大管理范围至原香溪镇黄泥岭、陈店、吴村、盛道院、后畈、长塘后、朱山、里徐、陈家井、大屋基等10个行政村，共管理10个社区、25个行政村，办事处驻地不变（人民北路52号）。②上华街道办事处：管理范围为原城南街道、马达镇行政（管理）区域，共1个社区、33个行政村，办事处定址上华村。③永昌街道办事处：管理范围为原永昌镇、孟湖乡行政区域，共1个居民区、64个行政村，办事处驻永昌村（原永昌镇政府驻地）。④赤溪街道办事处：管理范围为原赤溪乡行政区域，共23个行政村，办事处驻姓潘村（原赤溪乡政府驻地）。⑤女埠街道办事处：管理范围为原女埠镇行政区域，共1个居民区、36个行政村，办事处驻上街村（原女埠镇政府驻地）。（7）此次行政区划调整后，兰溪市辖游埠、诸葛、黄店、香溪、马涧、梅江6个镇，灵洞、柏社2个乡和水亭畲族乡，城区设兰江、云山、上华、永昌、赤溪、女埠6个街道办事处。
2004年末，兰溪市辖6个街道、6个镇、3个乡（其中1个民族乡），20个社区、6个居民区、646个行政村，面积1310平方千米，人口密度500人/平方千米。
2005年末，兰溪市面积1310平方千米。人口65.97万人。2006年末，全市辖6个街道、6个镇、3个乡（其中1个民族乡），22个社区、5个居民区和631个行政村。
2007年11月6日，浙政函[2007]158号批复同意兰溪市部分行政区划调整：一、设立横溪镇建制，将梅江镇国庆、新胜、施宅、渔塘下、陈派宅、虞街、桐坞岭、前胡、上甲山、双溪、沈宅、梅坑、城头、立平头、上横塘、宋宅、里董金、金村、通津桥、下溪前、大斯、店丘、何坞、胡宅、西塘下、田畈周等26个行政村划归横溪镇管辖，镇政府驻国庆村。调整后，梅江镇辖52个行政村，镇政府驻墩头村。二、将兰江街道的舒村村划归女埠街道管辖。调整后，兰江街道辖8个社区、67个行政村，街道办事处驻地不变（三江路140号）；女埠街道辖１个社区、37个行政村，街道办事处驻地不变（上街村）。三、将云山街道费垄口村划归灵洞乡管辖。调整后，云山街道辖10个社区、24个行政村，街道办事处驻地不变（人民北路52号）；灵洞乡辖16个行政村，乡政府驻地不变（杨青桥村）。四、将永昌街道厚伦胡村划归诸葛镇管辖。调整后，永昌街道辖1个居民区、63个行政村，街道办事处驻地不变（永昌村）；诸葛镇辖1个居民区、28个行政村，镇政府驻地不变（诸葛村）。五、将水亭畲族乡生塘徐村划归游埠镇管辖。调整后，游埠镇辖2个社区、48个行政村，镇政府驻地不变（游埠村）；水亭畲族乡辖36个行政村，乡政府驻地不变（水亭街村）。（2008年1月正式恢复横溪镇）
2012年末，全市总面积1312平方千米，总人口66.60万人。辖6个街道、7个镇、3个乡（其中1个民族乡）：兰江街道、云山街道、永昌街道、赤溪街道、女埠街道、上华街道、游埠镇、诸葛镇、黄店镇、香溪镇、马涧镇、梅江镇、横溪镇、灵洞乡、水亭畲族乡、柏社乡。市政府驻兰江街道府前路81号。