春秋时期属陈国。陈于此建焦城，后楚灭陈，筑谯城（今谯城区）。谯夷所辖区域扩大到苦（今涡阳县）、蒙（今蒙城县）及周边地区。秦时置谯县，属砀郡。汉时先后属豫州、沛国治。建安末年设谯郡。西晋时，谯是谯国治所。北魏正始四年（507）为“南兖州”治所。
北周大象元年（579），改南兖州为亳州，治所不变，亳州之名始于此。隋大业3年（607）改亳州为谯郡。唐武德四年（621）改谯郡为亳州。宋属淮南路，金属南京路。元属归德府（今商丘）。元至正15年（1355），刘福通起兵反元，拥韩林儿在亳州称帝，建 “宋”政权，以亳州为国都。
明初降为亳县，属颍州。弘治九年（1496）升县为州。1912年改为亳县。1986年3月21日，国务院撤销亳县，设立亳州市（县级），以原亳县的行政区域为亳州市的行政区域，属阜阳地区。1996年由地级阜阳市代管。1998年2月，县级亳州市由安徽省直接管辖（副地级）。
2000年5月21日，国务院批准：（1）撤销县级亳州市，设立地级亳州市。市人民政府驻新设立的谯城区。（2）亳州市设立谯城区，以原县级亳州市的行政区域为谯城区的行政区域。区人民政府驻文化巷。（3）亳州市辖涡阳县、蒙城县、利辛县和新设立的谯城区。全市共有107个乡、镇（乡级场、办事处），2625个行政村。
2000年第五次人口普查，亳州市常住总人口5078908人，其中，谯城区1351939人，涡阳县1293192人，蒙城县1106749人，利辛县1327028人。
2002年末，全市总人口534.84万人。2004年末，亳州市辖1个市辖区、3个县，共有3个街道、85个镇、16个乡。
2010年第六次人口普查，亳州市常住总人口4850657人，其中，谯城区1409436人，涡阳县1212054人，蒙城县1062080人，利辛县1167087人。
2014年末，亳州市辖1个市辖区、3个县，共有10个街道、71个镇、8个乡。