鲁山，古称鲁阳。周初属鲁国，西汉置鲁阳县，北周改鲁山县至今。县东北十八里有鲁山。据《读史方舆纪要》：“山高耸，回生群山，为一邑巨镇，县以此名。”民国31年（1942）4月至民国33年（1944年）3月，国民党河南省政府、省党部、省参议会等部门迁驻鲁山。1947年11月至1949年2月，中共豫陕鄂边区和豫西区党、政军领导机关又先后驻此。这一时期，鲁山县成为豫陕鄂边区、豫西区政治、经济、文化的中心。1983年由许昌地区划归平顶山市。
1996年，鲁山县面积2432平方千米，人口80万人。辖5个镇、17个乡：鲁阳镇、下汤镇、梁洼镇、张良镇、张官营镇、二郎庙乡、土门乡、马楼乡、瓦屋乡、仓头乡、四棵树乡、观音寺乡、鸡冢乡、辛集乡、张店乡、赵村乡、背孜乡、昭平台库区乡、董周乡、熊背乡、磙子营乡、瀼河乡。县政府驻鲁阳镇。
2000年第五次人口普查数据：鲁山县总人口822541人，其中：鲁阳镇57452人、下汤镇32674人、梁洼镇36951人、张官营镇57017人、张良镇52591人、尧山镇19277人、赵村乡24889人、四棵树乡15046人、鸡冢乡13311人、熊北乡20924人、瀼河乡46400人、瓦屋乡30147人、观音寺乡23505人、土门乡8513人、背孜乡14718人、仓头乡22317人、董周乡54500人、张店乡78552人、辛集乡47341人、磙子营乡64075人、马楼乡80617人、昭平台库区乡21724人。
2005年，鲁山县乡镇区划调整：撤销土门乡，并入背孜乡管辖，背孜乡政府驻地不变。调整后，鲁山县辖6个镇、15个乡：鲁阳镇、下汤镇、梁洼镇、张良镇、张官营镇、尧山镇；张店乡、辛集乡、熊背乡、瀼河乡、瓦屋乡、赵村乡、董周乡、仓头乡、马楼乡、鸡冢乡、背孜乡、磙子营乡、观音寺乡、四棵树乡、昭平台库区乡。（558个行政村）
根据河南省民政厅《关于撤销鲁山县鲁阳镇调整张店乡董周乡行政区划设立露峰等四个街道办事处的批复》（豫民行批[2006]9号）和平顶山市人民政府的批复精神，鲁山县政府决定撤销鲁阳镇，调整张店乡、董周乡部分行政区划，设立露峰、琴台、鲁阳、汇源4个街道办事处；将原鲁阳镇所辖区域以及张店乡的詹营、董周乡的五里头等22个行政村划入城区。
调整后，全县辖4个街道、5个镇、15个乡：露峰街道、琴台街道、鲁阳街道、汇源街道、下汤镇、梁洼镇、张官营镇、张良镇、尧山镇、赵村乡、四棵树乡、团城乡、熊背乡、瀼河乡、瓦屋乡、观音寺乡、昭平台库区乡、背孜乡、仓头乡、董周乡、张店乡、辛集乡、磙子营乡、马楼乡。县政府驻鲁阳街道。