春秋时为桐国。西汉设枞阳县。隋开皇十八年（598）为同安县。唐至德二年（757）改为桐城县。据《太干寰宇记》：桐城县“取桐乡为名。”
1949年属安庆专区，并析东部地置枞阳县。1988年为安庆市辖县。1996年8月20日，民政部批复（民行批[1996]59号）同意撤销桐城县，设立桐城市。县级桐城市由安庆市代管。
1996年，桐城市面积1664平方千米，人口约76.3万人，辖16个镇、9个乡：城关镇、鲟鱼镇、孔城镇、范岗镇、青草镇、陶冲镇、卅铺镇、金神镇、唐湾镇、双港镇、高桥镇、新渡镇、大关镇、吕亭镇、老梅镇、罗岭镇、新店乡、肖店乡、香铺乡、中义乡、龙眠乡、黄铺乡、挂镇乡、大塘乡，等。市政府驻城关镇。
2000年第五次人口普查，桐城市常住总人口660772人，其中：碧峰街道22908人，文昌街道30144人，南演街道32892人，太平街道18937人，双港镇48566人，新渡镇43053人，金神镇28609人，孔城镇41413人，范岗镇35626人，青草镇33866人，兴店镇26284人，卅铺镇31148人，吕亭镇25650人，高桥镇35753人，罗蛉镇18609人，陶冲镇28141人，老梅镇19553人，挂车河镇21263人，大关镇27928人，唐湾镇5601人，鲟鱼镇1150人，香铺乡24521人，白马乡14942人，肖店乡21655人，大塘乡6054人，黄铺乡7284人，龙眠乡4846人，中义乡4376人。（4个街道、17个镇、7个乡）
2004年末，桐城市辖4个街道、19个镇、5个乡。
2005年5月13日，国务院（国函[2005]38号）批准将桐城市的罗岭镇划归安庆市宜秀区管辖。同年，根据安庆市人民政府《关于桐城市城区及部分乡镇行政区划调整的通知》的要求，桐城市将白马乡和高桥镇的大王村整建制并入南演街道，将新渡镇的祝桥村整建制并入老梅镇，并于4月30日前完成调整和交接工作。
2006年，桐城市行政区划调整，由原24个镇乡、4个街道调整为12个镇、2个街道。
2010年第六次人口普查，桐城市常住总人口664455人，其中：龙腾街道25444人，龙眠街道82992人，文昌街道60051人，孔城镇65555人，吕亭镇52518人，范岗镇58092人，新渡镇63564人，双港镇44705人，大关镇58243人，青草镇61885人，金神镇50105人，嬉子湖镇19583人，唐湾镇9550人，黄甲镇11552人，鲟鱼镇616人。
2014年10月8日，市政府办公地点迁至原文昌街道办公楼和农机服务中心大楼（文昌街道文三路18号）。