临湘春秋战国属楚，秦属长沙郡地，西汉为长沙国下隽县地，晋属巴陵县地，五代后唐清泰年间（934～936）马殷于陆城（今岳阳市北区）置王朝场。宋淳化五年（994年）升为王朝县，至道二年（996年）更名临湘县。明、清属岳州府。1930年县治由陆城迁长安，1937年属第一行政督察区。
1949年属长沙专区，1952年属湘潭专区，1964年属岳阳专区，1968年属岳阳地区。1984年4月6日，临湘县的部分地区划归岳阳市。1986年，将临湘县划归岳阳市管辖。1992年9月1日，民政部批准（民行批[1992]96号），撤销临湘县，设立临湘市。为省辖县级市，由岳阳市代管。
1991年，撤销江南乡，设立江南镇。1992年，将岳阳市北区陆城镇的儒溪、杨桥、棋杆、洋溪4个村和金鸡农场划归临湘市管辖，设立儒溪镇。1993年，城关镇更名为长安镇，长安乡更名为城南乡。1994年，撤销定湖乡，设立定湖镇。
1995年，撤销城南、长仑、岭北、新泉、南湖、洞庭围、濠河7个区公所。胭脂乡、赛头乡、和平乡并入南湖洲镇；姑嫂树乡并入白马寺镇；民新乡并入临资口镇；安静乡、湾河乡合并为静河乡；鹤龙乡并入濠河口镇；沙田乡并入铁角嘴镇；樟树乡并入樟树镇；撤销金龙、城南、东塘、洞庭围乡，设立袁家铺、界头铺、东塘、洞庭围镇。调整后，临湘市辖13镇9乡：长安镇、长塘镇、白羊田镇、白云镇、羊楼司镇、江南镇、沅潭镇、忠防镇、定湖镇、聂市镇、桃林镇、詹桥镇、儒溪镇、文白乡、五里牌乡、龙源乡、坦渡乡、贺畈乡、乘风乡、城南乡、横铺乡、壁山乡。总面积1720平方千米，总人口约45.6万人，市政府驻长安镇。
2000年5月29日，经湖南省政府批准，撤销黄盖湖农场，并入临湘市，组建黄盖镇。
2000年第五次人口普查，临湘市常住总人口448452人，其中，长安镇86043人，忠防镇26057人，白云镇15943人，聂市镇20755人，源潭镇13766人，江南镇23663人，羊楼司镇22716人，桃林镇31029人，长塘镇24267人，白羊田镇20005人，詹桥镇18542人，儒溪镇10139人，定湖镇14170人，黄盖镇8030人，五里牌乡21711人，乘风乡10135人，文白乡12541人，龙源乡4000人，坦渡乡15012人，城南乡11397人，横铺乡16532人，贺畈乡7999人，壁山乡4922人，桃林铅锌矿9078人。
2002年末，临湘市总面积1754平方千米，总人口47.62万人，其中非农业人口11.11万人，辖13个镇（白羊田、长塘、白云、羊楼司、江南、沅潭、忠防、定湖、聂市、桃林、詹桥、儒溪、黄盖）、9个乡（文白、五里牌、龙源、坦渡、贺畈、乘风、城南、横铺、壁山）、1个街道（长安），312个村（居）委会。
2004年，撤销长安镇，设立长安、桥东两个街道；增设桃矿街道。至此，临湘市辖3个街道、13个镇、9个乡：长安街道、桥东街道、桃矿街道、忠防镇、白云镇、聂市镇、源潭镇、江南镇、羊楼司镇、桃林镇、长塘镇、白羊田镇、詹桥镇、儒溪镇、定湖镇、黄盖镇、五里牌乡、乘风乡、文白乡、龙源乡、坦渡乡、城南乡、横铺乡、贺畈乡、壁山乡。
2007年，长安、桥东2街道合并设立长安街道。省民政厅（湘民行发[2007]16号）批复同意：文白乡、龙源乡与羊楼司镇合并设立新的羊楼司镇。新的羊楼司镇以原文白乡、龙源乡和羊楼司镇的行政区域为新设羊楼司镇的行政区域，新的羊楼司镇辖4个居委会、37个建制村，总面积253.8平方千米，总人口4.8万人，镇政府驻羊楼司（原羊楼司镇政府驻地）。调整后，临湘市辖2个街道、13个镇、7个乡：长安街道、桃矿街道、忠防镇、白云镇、聂市镇、源潭镇、江南镇、羊楼司镇、桃林镇、长塘镇、白羊田镇、詹桥镇、儒溪镇、定湖镇、黄盖镇、五里牌乡、乘风乡、坦渡乡、城南乡、横铺乡、贺畈乡、壁山乡。
2008年，省民政厅（湘民行发[2008] 5号）批复同意：将贺畈乡、壁山乡与詹桥镇合并设立新的詹桥镇。新的詹桥镇以原贺畈乡、壁山乡和詹桥镇的行政区域为新设詹桥镇的行政区域，新的詹桥镇辖1个居委会、30个建制村，总面积151平方千米，总人口4.3万人，镇政府驻詹家桥（原詹桥镇政府驻地）。行政区划调整后，临湘市辖2个街道办事处、13个镇、5个乡。
2009年末，临湘市总面积1754平方千米，总人口51.02万人，辖2个街道、13个镇、5个乡。
2010年第六次人口普查，临湘市常住总人口498319人，其中，长安街道118057人，桃矿街道8431人，忠防镇28759人，白云镇15238人，聂市镇20311人，源潭镇15796人，江南镇21547人，桃林镇36304人，长塘镇24580人，白羊田镇21974人，詹桥镇37050人，儒溪镇10385人，定湖镇15280人，黄盖镇9743人，羊楼司镇38835人，五里乡23755人，乘风乡8754人，坦渡乡16055人，城南乡12688人，横铺乡14777人。
2014年，设立桥东街道（岳政办函[2014]34号）。2015年11月24日，省民政厅（湘民行发[2015]73号）批复同意：横铺乡、桃林镇成建制合并设立桃林镇；定湖镇、坦渡乡成建制合并设立坦渡镇；儒溪镇、江南镇成建制合并设立江南镇；乘风乡、源潭镇、聂市镇成建制合并设立聂市镇；白云镇、城南乡、长安街道成建制合并设立长安街道；五里牌乡、桥东街道成建制合并设立五里牌街道。调整后，全市辖3个街道、10个镇：长安街道、桃矿街道、五里牌街道、忠防镇、聂市镇、江南镇、羊楼司镇、桃林镇、长塘镇、白羊田镇、詹桥镇、黄盖镇、坦渡镇。总面积1718平方千米，总人口53.02万人。