《今县释名》：“吴分耒阳置新平县，刘宋因蛮寇止息，遂号新宁，天宝元年，改名常宁。”取永久安宁之意。常宁历史悠久，据清同治《常宁县志》记载：周朝以前属荆，战国时属楚，秦汉时属耒阳县，三国吴孙亮析耒阳西南地置新宁、新平二县，东晋太元二十年（396年）并新平于新宁县，唐天宝元年（742年）改新宁为常宁，属衡州。五代及宋属衡州。元十九年（1282年）升为州，无领地，属湖广行省领北湖南道。
明洪武三年（1370年）三月降为县，属湖广布政使司衡州府。清属湖南衡永郴桂道衡州府。民国元年（1912年）废府，属衡阳道。民国11年（1922年）废道，直属湖南省。民国26年（1937年）属湖南省第五行政督察区。1949年10月12日常宁和平解放，人民政府建立，属湖南省衡阳专区。1952年4月改属湖南行政区。1954年7月仍属衡阳专区。1983年7月属衡阳市。1996年11月26日经国务院批准，撤销常宁县，设立常宁市，由衡阳市代管。
新中国成立后，常宁设10区174乡。1952年12月设11区、2镇、172乡。1956年6月撤区并乡，全县设2镇45乡。1958年撤乡，实行政社合一，全县设15个公社。1961年9月，恢复区建制，设9区2镇。1985年5月，撤销荫田、湖亭、板桥3乡，设立荫田、盐湖、板桥3镇。8月，将塔山乡置蒲竹瑶族乡。12月撤销洋泉镇，大市乡改名为大市坪乡。1986年12月，撤销官岭、新洲2乡，设立官岭、新河2镇。1990年，全县共设9个区，3个区级镇，7个乡级镇，51个乡，1个瑶族乡。
1995年，根据5月3日省民政厅湘民行发[1995]53号《关于常宁县撤区并乡行政区划调整的批复》文件精神，常宁县政府于5月19日宣布，撤销宜阳、柏枋、水口山、荫田、罗桥、板桥、官岭、洋泉、新洲9个区公所，保留盐湖镇行政建制，将城关镇改名为宜阳镇，将其余的61个乡镇撤并调整为23个乡镇（13个镇、9个乡、1个民族乡），即宜阳镇、松柏镇、白沙镇、官岭镇、洋泉镇、柏坊镇、荫田镇、盐湖镇、罗桥镇、新河镇、板桥镇、三角塘镇、烟洲镇、西岭镇、胜桥乡、庙前乡、宜潭乡、兰江乡、弥泉乡、蓬塘乡、大堡乡、江河乡、塔山瑶族乡，下辖706个村，52个居委会，7155个村民小组，233个居民小组。
1996年，西岭、庙前、胜桥先后撤乡设镇，并各增设1个居委会。是年未，全县下辖16个镇、7个乡（其中1个民族乡）：宜阳镇、三角塘镇、白沙镇、松柏镇、罗桥镇、板桥镇、官岭镇、柏坊镇、洋泉镇、盐湖镇、烟洲镇、荫田镇、新河镇、西岭镇、庙前镇、胜桥镇、大堡乡、兰江乡、江河乡、宜潭乡、弥泉乡、蓬塘乡、蒲竹瑶族乡。村、组、居民小组无变动。
2000年第五次人口普查，常宁市常住总人口795223人，其中，宜阳镇67354人，柏坊镇58246人，松柏镇70352人，烟洲镇33714人，荫田镇33285人，白沙镇28668人，西岭镇30072人，盐湖镇22583人，三角塘镇28631人，洋泉镇62182人，庙前镇15163人，罗桥镇32883人，板桥镇38649人，胜桥镇41280人，官岭镇39075人，新河镇29666人，宜潭乡38842人，蓬塘乡41684人，兰江乡31768人，大堡乡27734人，江河乡13741人，弥泉乡1766人，蒲竹瑶族乡7885人。
2008年，撤销宜阳镇，设立宜阳、泉峰、培元三个街道，松柏镇析出水口山办事处，洋泉镇析出天堂山风景名胜管理处。2009年，省民政厅（湘民行发[2009]2号）批复同意从松柏镇析出三香、松阳、新华、青年、蔬菜、松柏等6个建制村和松化、煤机、沿江、开源、松柏、三园、文明路、小州、常青、松阳、大桥、兴源、运输、航运、焦厂、渡东、渡西、永红、欧家洲、鲶鱼等20个社区，设立水口山街道。调整后，水口山街道辖6个建制村、20个社区，面积27.95平方公里，人口2.82万人，办事处机关驻朱家湾；松柏镇辖18个建制村、6个社区，面积50.55平方公里，人口4.04万人。至此，全市辖4个街道、15个镇、7个乡（其中1个民族乡）和1个办事处：宜阳街道、泉峰街道、培元街道、水口山街道、柏坊镇、松柏镇、烟洲镇、荫田镇、白沙镇、西岭镇、盐湖镇、三角塘镇、洋泉镇、庙前镇、罗桥镇、板桥镇、胜桥镇、官岭镇、新河镇、宜潭乡、蓬塘乡、兰江乡、大堡乡、江河乡、弥泉乡、塔山瑶族乡和天堂山办事处。市政府驻宜阳街道青阳中路。
2010年第六次人口普查，常宁市常住总人口810447人，其中，宜阳街道40489人，泉峰街道56785人，培元街道24959人，水口山街道46055人，柏坊镇51344人，松柏镇25163人，烟洲镇34941人，荫田镇33660人，白沙镇31182人，西岭镇31349人，盐湖镇18672人，三角塘镇28083人，洋泉镇50940人，庙前镇16369人，罗桥镇33453人，板桥镇37530人，胜桥镇37087人，官岭镇37453人，新河镇22233人，宜潭乡39297人，蓬塘乡38904人，兰江乡26825人，大堡乡24393人，江河乡13386人，弥泉乡2231人，塔山瑶族乡7664人。
2015年11月9日，省民政厅（湘民行发[2015]18号）批复同意：宜潭乡、宜阳街道成建制合并设立宜阳街道。松柏镇、水口山街道成建制合并设立水口山镇。盐湖镇、三角塘镇成建制合并设立三角塘镇。江河乡、新河镇成建制合并设立新河镇。弥泉乡、塔山瑶族乡成建制合并设立塔山瑶族乡。调整后，全市辖3个街道、14个镇、4个乡（其中1个民族乡）和1个办事处：宜阳街道、泉峰街道、培元街道、柏坊镇、水口山镇、烟洲镇、荫田镇、白沙镇、西岭镇、三角塘镇、洋泉镇、庙前镇、罗桥镇、板桥镇、胜桥镇、官岭镇、新河镇、蓬塘乡、兰江乡、大堡乡、塔山瑶族乡和天堂山办事处。市政府驻宜阳街道青阳北路。