唐神龙二年（706）置沈丘县，治今城关镇，明废。1935年析阜阳县西部地置临泉县，以临颍河支流泉河之上，故名。
1985年，临泉县面积1818平方千米，人口143.1万人。辖13个区、1个区级镇，87乡（镇）、2个办事处，771个村委会、12个居委会，8032个自然村。
1996年末，临泉县面积1818平方千米，人口174.9万人。辖22个镇、11个乡：城关镇、杨桥镇、鲷城镇、长官镇、于寨镇、邢塘镇、谭棚镇、老集镇、吕寨镇、滑集镇、宋集镇、张新镇、艾亭镇、韦寨镇、迎仙镇、瓦店镇、姜寨镇、庙岔镇、黄岭镇、陈集镇、白庙镇、关庙镇、牛庄乡、高塘乡、土陂乡、谢集乡、单桥乡、陶老乡、田桥乡、张营乡、庞营乡、范兴集乡、杨小街乡。县政府驻城关镇。
2000年第五次人口普查，临泉县常住总人口1690872人，其中，城关镇83664人，杨桥镇56303人，鲷城镇50415人，于寨镇26815人，邢塘镇37043人，谭棚镇55582人，老集镇53561人，滑集镇61051人，吕寨镇44092人，单桥镇44129人，长官镇65921人，宋集镇66935人，张新镇44295人，艾亭镇60267人，陈集镇50701人，韦寨镇66945人，迎仙镇58595人，瓦店镇55638人，姜寨镇57213人，庙岔镇58037人，黄岭镇59167人，白庙镇46338人，关庙镇56168人，牛庄乡35670人，高塘乡48613人，范兴集乡31698人，土陂乡52266人，谢集乡38541人，杨小街乡41078人，陶老乡35854人，田桥乡54464人，张营乡47041人，庞营乡46772人。
2004年末，临泉县辖23个镇、10个乡：城关镇、杨桥镇、同城镇、于寨镇、邢塘镇、谭棚镇、老集镇、滑集镇、吕寨镇、单桥镇、长官镇、宋集镇、张新镇、艾亭镇、陈集镇、韦寨镇、迎仙镇、瓦店镇、姜寨镇、庙岔镇、黄岭镇、白庙镇、关庙镇、牛庄乡、高塘乡、范兴集乡、土陂乡、谢集乡、杨小街乡、陶老乡、田桥乡、张营乡、庞营乡。县政府驻城关镇。
2010年第六次人口普查，临泉县常住总人口1543218人，其中，城关镇161756人，杨桥镇41913人，同城镇47211人，谭棚镇48140人，老集镇41037人，滑集镇51725人，吕寨镇33263人，单桥镇39120人，长官镇48313人，宋集镇53777人，张新镇34741人，艾亭镇49509人，陈集镇41830人，韦寨镇61875人，迎仙镇49375人，瓦店镇48178人，姜寨镇54738人，庙岔镇51386人，黄岭镇53438人，白庙镇41124人，关庙镇51068人，牛庄乡43036人，高塘乡39119人，范兴集乡28355人，土陂乡47477人，谢集乡40607人，杨小街乡37264人，陶老乡34320人，田桥乡49329人，张营乡43475人，庞营乡47172人，临泉工业园区29547人。
2014年，撤销杨小街乡，设立杨小街镇（民地字[2014]26号）。2015年7月，撤销城关镇、田桥乡，设立城关街道、邢塘街道、田桥街道（皖民地函[2015]237号）；8月10日，3个街道办事处挂牌成立；城关街道辖新城、三和、古城、西城、泉北等16个社区和大阎庄、杜庄、曹庄等7个行政村，街道办事处驻原城关镇政府驻地；邢塘街道即县经开区辖区，辖邢塘、南园、北园3个居委会和西园、新建、临化3个社区，街道办事处驻原经开区管委会驻地；田桥街道辖原田桥乡所属区划，驻地不变。
至此，全县辖3个街道、21个镇、8个乡：城关街道、邢塘街道、田桥街道、杨桥镇、同城镇、谭棚镇、老集镇、滑集镇、吕寨镇、单桥镇、长官镇、宋集镇、张新镇、艾亭镇、陈集镇、韦寨镇、迎仙镇、瓦店镇、姜寨镇、庙岔镇、黄岭镇、白庙镇、关庙镇、杨小街镇、牛庄乡、高塘乡、范兴集乡、土陂乡、谢集乡、陶老乡、张营乡、庞营乡。县政府驻城关街道光明南路。