南陵在汉武帝元封二年（公元前109年）属丹阳郡春谷县、宣城县。晋置南陵戍。南陵，本汉县名，在关中，属京兆尹。东晋侨置于江南。南朝梁武帝普通六年（525年）置南陵郡、南陵县，由东晋于沿江南岸赭圻屯所置南陵戍而来。
唐长安四年（704年）移治青阳城（今籍山镇），属江南道宣州，南宋与明清属宁国府。民国初年属芜湖道，1932年、1938年、1940年先后划属第二、九、六行政督察区。
1949年4月22日解放，即置南陵县人民政府，属芜湖地区，1950年属宣城地区，1952年属芜当专区，1980年属宣城地区，1983年为芜湖市辖县。
1958年9月撤销区、乡建制，实行政、社合一体制，全县设立弋江、许镇、奎湖、工山、家发、三里、烟墩（翌年11月并入三里）、何湾、童村（1961年9月更名戴镇）、晏公（翌年11月并入何湾）等公社。1960年改城关镇为城关公社，1962年复置城关镇。
1961年6月建区划社，弋江区辖弋江、九连、东河、石铺、奚滩5个公社，黄墓区辖奎湖、黄塘、黄墓、东塘、太丰、仙坊6个公社，工山区辖工山、麻桥、桂山、家发、戴镇5个公社，峨岭区辖三里、五里、峨岭、烟墩4个公社，何湾区辖丫山、绿岭、何湾3个公社。，1964年11月由石铺公社析置葛林公社，1965年复置弋江镇，均属弋江区。
1970年1月撤销区建制。1972年3月设弋江、黄墓等片，戴镇公社划属何湾片。1974年3月恢复区建制。1982年1月弋江公社更名蒲桥公社。
1984年3月撤社改乡。1984年12月析东河乡、九连乡复置东七乡，属弋江区。1985年2月，黄墓乡改黄墓镇，三里乡改三里镇，丫山乡改丫山镇。
1990年，县境东接宣州市，南邻泾县，西连铜陵县，北界芜湖县。西北同繁昌县相邻，西南与青阳县毗连。面积1263.7平方千米。辖城关镇和5个区公所（下辖4镇22乡）。弋江区辖弋江镇和东七、九连、东河、石铺、蒲桥、葛林、奚滩7乡，黄墓区辖黄墓镇和奎湖、黄塘、太丰、仙坊、东塘5乡，工山区辖工山、桂山、麻桥、家发4乡，峨岭区辖三里镇和五里、峨岭、烟墩3乡，何湾区辖丫山镇和戴镇、绿岭、何湾3乡。
1992年撤区并乡建镇，撤销五里乡并入城关镇，撤销蒲桥乡并入弋江镇，撤销仙坊乡并入黄墓镇，撤销黄塘乡并入奎湖乡，撤销工山乡、桂山乡设立工山镇，撤销麻桥乡、家发乡设立家发乡。（东七乡？）
1996年，南陵县面积1263.7平方千米，人口约53万人。辖6镇14乡：城关镇、丫山镇、三里镇、黄墓镇、弋江镇、工山镇、东塘乡、太丰乡、东河乡、奚滩乡、葛林乡、石铺乡、九连乡、绿岭乡、戴镇乡、何湾乡、烟墩乡、峨岭乡、家发乡、奎湖乡。县政府驻城关镇。
1997年，撤销何湾乡，设立何湾镇，镇政府驻何湾；撤销奎湖乡，设立奎湖镇，镇政府驻奎湖街；撤销家发乡，设立家发镇，镇政府驻麻桥；撤销戴镇乡，设立戴汇镇，镇政府驻戴汇；撤销绿岭乡，设立绿岭镇，镇政府驻绿岭。2000年，全县辖15个镇、6个乡。
2000年第五次人口普查，南陵县常住总人口490130人，其中：城关镇51989人，弋江镇33834人，黄墓镇31584人，三里镇24417人，丫山镇9892人，工山镇30489人，奚滩镇24338人，奎湖镇28860人，家发镇30566人，峨岭镇18094人，烟墩镇17788人，戴汇镇19475人，何湾镇18498人，绿岭镇11529人，石铺镇21995人，九连乡22711人，东河乡19300人，东七乡19297人，葛林乡18399人，太丰乡26360人，东塘乡10715人。
2003年10－11月，南陵县将21个乡镇撤并为烟墩、家发、籍山、许镇、弋江、何湾、三里、工山8镇：撤销城关镇、葛林乡、石铺镇、九连乡，设立籍山镇；撤销黄墓镇、奎湖镇、东塘乡、太丰乡，设立许镇镇；撤销奚滩镇、东河乡、东七乡，并入弋江镇；撤销峨岭镇，并入三里镇；撤销丫山镇、绿岭镇，并入何湾镇；撤销戴汇镇，并入工山镇。
2003年末，全县面积1263平方千米，人口164388户、545574人，辖8镇：籍山镇、许镇镇、弋江镇、三里镇、工山镇、家发镇、何湾镇、烟墩镇，共有20个居委会、159个行政村。
2010年第六次人口普查，南陵县常住总人口404278人，其中：籍山镇138640人，许镇镇77048人，弋江镇67710人，三里镇28516人，何湾镇23206人，工山镇35124人，烟墩镇11770人，家发镇22264人。