谢家集区境北部原为凤台县属地，南部原属寿县管辖。1961年分八公山区南部，设谢家集区。
1949年4月，淮南矿区政府设淮南区，辖蔡岗、孔集、八公、连岗、安成、山王、鸭背7个乡。7月，城镇部分设八公山办事处（11月改称八公山镇）。1950年11月，淮南区改称为第三区（1951年11月改称蔡岗区），辖钱湖、连岗、陶圩、蔡岗、沈塘5个乡。1953年5月，撤八公山镇，设八公山区（科级）。1954年3月，寿县的廿店、隗店两个乡划入蔡岗区。7月，廿店、隗店2个乡改划为廿店、隗店、翟家洼3个乡。至此，蔡岗区辖8个乡。
1955年2月，八公山区和蔡岗区的城镇部分合并，建立八公山区（县级）；蔡岗区的农村部分划入淮南市郊区。1956年，翟洼、廿店、沈塘3个乡合并为东津乡；蔡岗、陶圩2个乡合并为蔡岗乡。1958年9月，钱淮高级农业社（钱湖乡）、长春高级农业社（隗店乡）、新淮高级农业社（东津乡）、迎春高级农业社（蔡岗乡）合并成立了唐山公社。1959年3月，撤销郊区，八公山区境的农村（即唐山公社）划归八公山区。1960年1至3月，八公山区成立八公山区公社，辖7个城市分社和1个农业分社：望峰岗城市分社、谢家集城市分社、毕家岗城市分社、李郢孜城市分社、谢三矿城市分社、蔡家岗城市分社、新庄孜城市分社和唐山农业分社。
1961年10月1日，八公山区分置为八公山、谢家集两个区。谢家集区辖谢家集、蔡家岗、谢三矿、望峰岗、李郢孜5个城市人民分社和唐山农业分社。毕家岗、新庄孜2个城市人民分社、钱湖大队和蔡岗大队属八公山区。1962年，在谢家集城市人民分社进行城市设立街道办事处试点工作。1963年2月18日，从唐山农业分社划出部分生产队成立永青蔬菜分社（1965年划入陶圩公社，为永青大队）。1963年至1964年，谢家集、蔡家岗、谢三矿、望峰岗、李郢孜5个城市人民分社分别更名为谢家集、蔡家岗、谢三村、望峰岗、李郢孜街道办事处。
1964年7月，从唐山公社划出部分生产大队成立赖山公社。1965年7月，从唐山、赖山两个公社划出陶圩、耿皇、周郢、刘岗、永青、鸭背6个大队成立陶圩公社。1972年，二道河农场4大队划给陶圩公社，更名二道河大队。1970年2月28日，蔡家岗街道办事处划分为前进、立新2个街道办事处。1977年，前进街道办事处复称蔡家岗街道办事处。1981年9月，立新街道办事处更名为蔡新路街道办事处。1986年，蔡新路街道办事处复称立新街道办事处。1986年5月，赖山乡划出尚安、廿店、施嘴、莲花、砂里岗村，唐山乡划出邱岗村，合并成立施家湖乡。1989年3月12日，陶圩乡、望峰岗街道办事处合并，赖山乡的山余村划入，成立望峰岗镇。
1990年，谢家集区辖唐山乡、赖山乡、施家湖乡、望峰岗镇和谢家集街道、蔡家岗街道、谢三村街道、立新街道、李郢孜街道。1991年11月，成立平山街道；赖山乡与李郢孜街道合并建立李郢孜镇。1992年2月，唐山乡与施家湖乡合并建立唐山乡，乡政府驻地在唐山。1995年10月，撤唐山乡建唐山镇。1996年，谢家集区面积96平方千米，人口约24.6万人，辖5个街道、3个镇：谢家集街道、蔡家岗街道、立新街道、谢三村街道、平山街道、李郢孜镇、望峰岗镇、唐山镇，78个居委会、26个村委会。区政府驻平山路。
2000年第五次人口普查，谢家集区常住总人口256873人，其中：谢家集街道55652人，蔡家岗街道30478人，立新街道17603人，谢三村街道19696人，平山街道18668人，望峰岗镇48930人，李郢孜镇43002人，唐山镇22844人。
2004年5月29日，国务院（国函[2004]39号）批准同意将长丰县的孙庙乡、孤堆回族乡、杨公镇划归淮南市谢家集区管辖；7月1日正式实施。2004年末，谢家集区辖5个街道、4个镇、2个乡：李郢孜镇、望峰岗镇、唐山镇、杨公镇、孙庙乡、孤堆回族乡，谢家集街道、蔡家岗街道、立新街道、谢三村街道、平山街道。
2010年第六次人口普查，谢家集区常住总人口320251人，其中：谢家集街道49338人，蔡家岗街道26844人，立新街道19063人，谢三村街道25720人，平山街道21847人，望峰岗镇51958人，李郢孜镇44929人，唐山镇25213人，杨公镇25508人，孙庙乡16029人，孤堆乡13802人。
2013年11月，将田家庵区的曹庵镇、三和乡、史院乡（合计面积161.7平方千米，人口9.1万人）和淮南现代产业园区划归谢家集区代管。
2013年末，谢家集区总面积275.7平方千米，人口32.6万人，辖5个街道、4个镇、2个乡（其中1个民族乡）和1个省级开发区（安徽淮南工业园区），35个社区、56个行政村（此处不包括代管区域数据）。
2014年10月，省民政厅批复，经省政府同意，撤销三和乡，设立三和镇（12月3日正式挂牌成立，仍由谢家集区代管）。