古代有个“叶公好龙”的故事。叶公名叫沈诸粱，字子高，是春秋时的楚国大夫。他曾经平定白公胜的叛乱，稳定了楚国政局，采食于此，称叶公。叶，旧读“涉”，即今叶县。战国叶一度属韩，秦伐楚取叶后，改叶邑为叶阳邑；战国后期，魏于叶阳北置昆阳，后亦属秦。秦统一六国后，叶阳属南阳郡，昆阳属颖川郡。三国时期，叶县、昆阳均属魏。
晋，叶属南阳国。南北朝时北齐废昆阳。金初刘豫建齐，齐阜昌七年，继叶县治于昆阳。后世叶县一直治古昆阳城。元、明、清三朝，叶县均属南阳府。民国二年（1913年），叶县属豫南道。民国24年（1935年），属南阳行政督察区。1947年11月，叶县解放，建立人民政权，属豫西行政公署。1949年2月改属许昌专区。1983年12月叶县改属平顶山市。
1996年，叶县面积1381.4平方千米，人口约82万人。辖4个镇、14个乡：昆阳镇、任店镇、仙台镇、保安镇、马庄回族乡、城关乡、夏李乡、旧县乡、水寨乡、邓李乡、遵化店乡、洪庄杨乡、龚店乡、常村乡、廉村乡、田村乡、辛店乡、龙泉乡。县政府驻昆阳镇。
2000年第五次人口普查，叶县常住总人口838691人，其中：昆阳镇45204人、任店镇61942人、保安镇40975人、仙台镇62280人、遵化店镇31198人、城关乡60635人、夏李乡48573人、常村乡46689人、马庄回族乡10497人、田庄乡41076人、旧县乡59795人、辛店乡45418人、龙泉乡46676人、水寨乡36873人、廉村乡63436人、邓李乡49087人、龚店乡51819人、洪庄杨乡36518人。
2005年末，叶县辖5个镇、13个乡：昆阳镇、任店镇、保安镇、遵化店镇、仙台镇；城关乡、邓李乡、旧县乡、龚店乡、田庄乡、夏李乡、辛店乡、龙泉乡、廉村乡、洪庄杨乡、马庄回族乡、水寨乡、常村乡。
2008年，撤销廉村乡、旧县乡，设立廉村镇、叶邑镇。2011年，常村乡、辛店乡撤乡设镇。调整后，全县辖9个镇、9个乡（其中1个民族乡）：昆阳镇、任店镇、保安镇、仙台镇、遵化店镇、叶邑镇、廉村镇、常村镇、辛店镇、城关乡、夏李乡、马庄回族乡、田庄乡、龚店乡、龙泉乡、水寨乡、洪庄杨乡、邓李乡。
2010年第六次人口普查，叶县常住总人口777203人，其中：昆阳镇50437人，任店镇59748人，保安镇32176人，仙台镇50921人，遵化店镇30766人，叶邑镇58483人，廉村镇54740人，城关乡69007人，夏李乡40919人，常村乡36693人，马庄回族乡10874人，田庄乡36292人，龚店乡50851人，辛店乡47277人，龙泉乡44654人，水寨乡30779人，洪庄杨乡33297人，邓李乡39289人。
2014年7月6日，经河南省政府批准，省民政厅（豫民行批[2014]28号）批复同意撤销叶县昆阳镇、城关乡2建制乡镇，对其原辖行政区域实行城市管理体制。街道办事处设立具体事宜由平顶市按照《河南省街道办事处设置有关规定》进行审批，审批结果报河南省民政厅备案。
2014年，任店镇、常村镇被列为全国重点镇。