西晋泰始三年（267年）于丰阳川（今城关镇）置丰阳县，属上洛郡，寻县废。南朝宋于县境西北侨设阳亭县，南齐撤销。北魏太延五年（439年）置魏兴郡于阳亭旧城，太和五年（481年）再设阳亭县，为魏兴郡治，后改阳亭县为南阳县；太安二年（456年）于丰阳川复设丰阳县，皇兴四年（470年）于丰阳县设东上洛郡，永平四年（511年）改为上庸郡。西魏废帝二年（553年）又析丰阳县南部地于漫川关增设漫川县。
北周保定三年（563年）废漫川县入上津。隋开皇三年（583年）废上庸郡，并省南阳县入丰阳县，属商州，以后归属随商州、上洛郡更替而变。金贞元元年（1153年）降县为镇，辖地入上洛县。明成化十三年（1477年）于今址置山阳县，属商州。1914年属关中道。1928年直属省。1949年6月28日，山阳全境解放。1950年属商洛专区。1969年属商洛地区。2001年属商洛市。
1996年，山阳县面积3514平方千米，人口40.3万人。辖4个镇、60个乡：城关镇、漫川关镇、中村镇、小河口镇、五里乡、三里乡、王庄乡、葛条乡、十里铺乡、伍竹乡、高坝店乡、黄土凸乡、两岭乡、申家垤乡、长沟乡、马鹿坪乡、板仓乡、过风楼乡、洛峪乡、白龙乡、水草坪乡、银花乡、洪河寺乡、西泉乡、西照川乡、王阎乡、龙山乡、鱼洞乡、石佛寺乡、晏马乡、天桥乡、法官乡、碥头溪乡、延坪乡、马家店乡、板庙乡、万福乡、两岔乡、同安乡、南宽坪乡、莲花池乡、湖坪乡、洞沟乡、松树坪乡、银厂乡、安家门乡、户家塬乡、牛耳川乡、九甲湾乡、赛鹤岭乡、黄龙乡、合河乡、杨地乡、白马塘乡、色河铺乡、峒峪寺乡、元子街乡、马滩乡、北沟乡、板岩乡、二峪河乡、马家山乡、袁家沟乡、娘娘庙乡。县政府驻城关镇。
其中：城关镇由县直属；城郊区辖十里、五里、三里、伍竹、葛条、五庄6个乡；高坝区辖过风楼、高坝店、黄土包、申家垤、马鹿坪、两岭、板仓、长沟8个乡；中村区辖银花、中村镇、洛峪、西泉、水草、白龙、洪河寺6个乡1个镇；照川区辖晏马、照川、石佛、龙山、天桥、王阎、鱼洞7个乡；漫川区辖板庙、万福、同安、漫川关镇、法官、两岔、扁头溪、马家店、延坪8个乡镇；宽坪区辖松坪、莲花、宽坪、银厂、洞沟、湖坪、安家门7个乡；户塬区辖牛耳川、户家塬、九家湾、合河、白马塘、杨地、黄龙、赛鹤岭8个乡；小河区辖小河口镇、二峪河、马家山、袁家沟、娘娘庙4个乡1个镇；色河区辖色河铺、元子街、峒峪寺、北沟、板岩、马滩6个乡。
1997年，撤销城郊、高坝、中村、照川、漫川、南宽坪、户家塬、小河口、色河铺等9个区公所建制，撤销三里乡、五里乡并入城关镇，撤销洛峪乡并入中村镇，撤销马家山乡、袁家沟口乡并入小河口镇，撤销同安乡、万福乡并入漫川关镇，撤销黄土凸乡、高坝店乡、过风楼乡合并设立高坝店镇，撤销西照川乡、龙山乡合并设立西照川镇，撤销南宽坪乡、银厂乡、安家门乡、洞沟乡合并设立南宽坪镇，撤销户家塬乡、九家湾乡、赛鹤岭乡合并设立户家塬镇，撤销北沟乡、马滩乡、板岩乡合并设立板岩镇，撤销长沟乡、板仓乡合并设立长沟镇，撤销杨地乡、合河乡合并设立杨地镇，撤销牛耳川乡、 娘娘庙乡合并设立牛耳川镇，撤销元子街乡、峒峪寺乡合并设立元子街镇，撤销色河铺乡设立色河铺镇，撤销银花乡设立银花镇，撤销白龙乡并入西泉乡，撤销鱼洞乡并入王阎乡，撤销马家店乡并入延坪乡，撤销两岔乡并入法官乡，撤销松树坪乡并入莲花池乡。调整后，山阳县辖15个镇、23个乡。
2000年第五次人口普查，全县常住总人口400993人，其中：城关镇48762人，高坝店镇28399人，长沟镇10910人，中村镇18139人，银花镇13837人，西照川镇7416人，漫川关镇13473人，南宽坪镇14558人，户家塬镇18625人，杨地镇16478人，牛耳川镇7287人，小河口镇13167人，色河铺镇15137人，板岩镇24534人，元子街镇8929人，伍竹乡5038人，十里铺乡21470人，葛条乡5185人，王庄乡5464人，申家垤乡8314人，马鹿坪乡4799人，两岭乡5996人，西泉乡6293人，洪河寺乡2548人，水草坪乡3753人，王阎乡5995人，晏马乡4107人，天桥乡2709人，石佛寺乡5797人，法官乡11894人，延坪乡6137人，碥头溪乡4655人，板庙乡2925人，莲花池乡8367人，湖坪乡3159人，黄龙乡7377人，白马塘乡3957人，二峪河乡5403人。
2001年，撤销洪河寺乡并入中村镇，撤销晏马乡并入西照川镇，撤销湖坪乡并入南宽坪镇，撤销白马塘乡并入杨地镇，撤销马鹿坪乡并入申家垤乡，撤销水草坪乡并入天桥乡，撤销板庙乡并入石佛寺乡，撤销碥头溪乡并入法官乡。调整后，山阳县辖15个镇、15个乡：城关镇、高坝店镇、长沟镇、中村镇、银花镇、西照川镇、漫川关镇、南宽坪镇、户家塬镇、杨地镇、牛耳川镇、小河口镇、色河铺镇、板岩镇、元子街镇、伍竹乡、十里铺乡、葛条乡、王庄乡、申家垤乡、两岭乡、西泉乡、王阎乡、天桥乡、石佛寺乡、法官乡、延坪乡、莲花池乡、黄龙乡、二峪河乡。
2010年第六次人口普查，山阳县常住总人口422255人，其中：城关镇67194人，高坝店镇29567人，长沟镇11770人，中村镇21522人，银花镇14999人，西照川镇11081人，漫川关镇17098人，南宽坪镇17112人，户家塬镇19288人，杨地镇21081人，牛耳川镇7879人，小河口镇14217人，色河铺镇14728人，板岩镇23458人，元子街镇7616人，伍竹乡4662人，十里铺乡21406人，葛条乡4933人，王庄乡4413人，申家垤乡9136人，两岭乡10635人，西泉乡5576人，王闫乡5260人，天桥乡6070人，石佛寺乡7988人，法官乡17328人，延坪乡5851人，莲花池乡8071人，黄龙乡6513人，二峪河乡5803人。
2011年，撤销伍竹乡、葛条乡并入城关镇，撤销十里铺乡、王庄乡合并设立十里铺镇，撤销延坪乡、西泉乡合并设立延坪镇，撤销黄龙乡并入户家塬镇，撤销二峪河乡并入小河口镇，撤销莲花池乡并入漫川关镇；撤销十里铺乡、两岭乡、王阎乡、天桥乡、石佛寺乡、法官乡乡的建制，相应设立镇的建制；撤销申家垤乡设立双坪镇，长沟镇更名为天竺山镇。调整后，山阳县辖23个镇：城关镇、高坝镇、天竺山镇、中村镇、银花镇、西照川镇、漫川关镇、南宽坪镇、户家塬镇、杨地镇、牛耳川镇、小河口镇、色河铺镇、板岩镇、元子街镇、十里铺镇、双坪镇、两岭镇、王阎镇、天桥镇、石佛寺镇、法官镇、延坪镇。
2012年末，山阳县面积3531.3平方千米，户籍人口466346人，常住人口42.22万人。2013年末，山阳县辖23个镇，共有3个社区、320个行政村，县政府驻城关镇。
根据陕民发[2014]57号、陕民发[2015]9号、商政民发[2015]15号文件，撤销城关镇，设立城关街道，街道办事处驻东关社区；撤销十里铺镇，设立十里铺街道，办事处驻十里铺社区；撤销双坪镇，并入高坝店镇，镇政府驻高坝街社区；撤销牛耳川镇，并入户家塬镇，镇政府驻户家塬社区；撤销元子街镇，并入色河铺镇，镇政府驻色河铺社区；撤销天桥镇，并入王阎镇，镇政府驻双河村；撤销石佛寺镇，将所辖的石佛寺社区、黄泥河村、太阳关村、碾子坪村划归西照川镇，板庙村、康家坪村划归漫川关镇管辖；将法官镇的碥头溪村、石窑子村、僧道关、铜塔沟村4个村划归天竺山镇管辖；在原双坪镇、牛耳川镇、元子街镇、天桥镇、石佛寺镇政府所在地分别设立便民服务中心；全县撤并80个村，村改居委会38个，保留198个村、41个社区居委会。调整后，山阳县辖城关、十里铺2个街道和高坝店、两岭、天竺山、中村、银花、王阎、西照川、漫川关、法官、延坪、南宽坪、板岩、户家塬、杨地、小河口、色河铺16个镇，共有198个行政村、41个社区。