上蔡，商代即以“蔡”为名。上蔡的“蔡”是从县城东蔡岗上的蓍草得名的。上古时期，盛行占卜，用蓍草占卜叫“筮”，“蔡”字由“草’、“祭”组成，就是用蓍草祭神占卜的意思。《续河南通志·舆地志》说：“宓羲氏因蓍草生蔡地，画卦于此，遂名其地曰蔡。”汉置上蔡县。因蔡平侯徙新蔡，遂称此为上蔡。
西周为蔡国，汉置上蔡县，南朝宋分治上蔡、武津二县，北魏称临汝县，隋初改为武津县，大业三年（607）复上蔡县。
1996年?，上蔡县面积1504平方千米，人口126.2万人。辖6个镇、19个乡：蔡都镇、杨集镇、党店镇、黄埠镇、洙湖镇、朱里镇、芦岗乡、和店乡、无量寺乡、蔡沟乡、石桥乡、崇礼乡、东岸乡、五龙乡、杨屯乡、西洪乡、小岳寺乡、大路李乡、东洪乡、齐海乡、韩寨乡、华陂乡、百尺乡、塔桥乡、邵店乡。县政府驻蔡都镇。
2000年第五次人口普查，上蔡县常住总人口1198534人，其中：蔡都镇51294人、黄埠镇35025人、杨集镇54513人、洙湖镇51998人、党店镇56294人、朱里镇60457人、华陂镇51865人、芦岗乡61823人、大路李乡40338人、无量寺乡34804人、邵店乡60737人、五龙乡27569人、杨屯乡25544人、和店乡67782人、蔡沟乡56458人、塔桥乡65940人、齐海乡43427人、崇礼乡45091人、韩寨乡39807人、东岸乡53583人、东洪乡52132人、石桥乡19304人、小岳寺乡35140人、西洪乡49063人、百尺乡58546人。
2005年，撤销石桥乡，将其行政区域划归东洪乡管辖，东洪乡政府驻地不变。调整后，上蔡县辖7个镇、17个乡：蔡都镇、杨集镇、黄埠镇、朱里镇、洙湖镇、党店镇、华陂镇；百尺乡、杨屯乡、小岳寺乡、大路李乡、无量寺乡、塔桥乡、西洪乡、邵店乡、五龙乡、东洪乡、芦岗乡、齐海乡、韩寨乡、崇礼乡、和店乡、蔡沟乡、东岸乡。
2009年，经省政府批准：撤销蔡都镇、芦岗乡；将齐海乡的丁赵、朱庄、申赵3个建制村和东洪乡的王庄、石桥2个建制村划入城区；设立蔡都、芦岗、卧龙、重阳4个街道办事处。2010年，塔桥、东洪撤乡设镇。
2010年第六次人口普查，上蔡县常住总人口1084210人，其中：蔡都街道56370人，芦岗街道55055人，重阳街道42784人，卧龙街道42162人，黄埠镇31931人，杨集镇46467人，洙湖镇43587人，党店镇43874人，朱里镇51255人，华陂镇46788人，塔桥镇55053人，东洪镇57553人，大路李乡30935人，无量寺乡29086人，邵店乡55992人，五龙乡20658人，杨屯乡20573人，和店乡56484人，蔡沟乡44449人，齐海乡27916人，崇礼乡38567人，韩寨乡35195人，东岸乡37056人，小岳寺乡26951人，西洪乡38917人，百尺乡48552人。
2012年，邵店撤乡设镇。2015年，省民政厅（豫民行批[2015]1号）批复同意撤销五龙乡，设立五龙镇。调整后，全县辖4个街道、10个镇、12个乡：蔡都街道、芦岗街道、卧龙街道、重阳街道、黄埠镇、杨集镇、洙湖镇、党店镇、朱里镇、华陂镇、塔桥镇、东洪镇、邵店镇、五龙镇、大路李乡、无量寺乡、杨屯乡、和店乡、蔡沟乡、齐海乡、崇礼乡、韩寨乡、东岸乡、小岳寺乡、西洪乡、百尺乡。县政府驻重阳街道。