济源因济水发源地而得名。隋开皇十六年（596年）置济源县，元改济源县为原州，后废州复为县。1988年撤县设市，1997年实行省直管体制。
1996年，济源市面积1965平方千米，人口约62.5万人。辖4个街道、6个镇、6个乡：济水街道、双桥街道、北海街道、天坛街道、五龙口镇、轵城镇、坡头镇、邵原镇、承留镇、克井镇、下冶乡、大峪乡、王屋乡、亚桥乡、思礼乡、梨林乡。市府驻济水街道辖区内。
2000年，济源市辖4个街道、8个镇、4个乡。第五次人口普查，全市总人口626478人，其中：济水街道40186人、北海街道31426人、双桥街道25211人、天坛街道22679人、克井镇62262人、五龙口镇47216人、轵城镇77930人、承留镇60270人、邵原镇38505人、坡头镇25808人、梨林镇40662人、大峪镇31661人、亚桥乡33541人、思礼乡26983人、王屋乡29914人、下冶乡32224人。
？年，济源市辖4个街道、8个镇、4个乡，50个居委会、484个行政村。济水街道辖12个居委会、1个社区，双桥街道辖11个居委会、1个社区，北海街道辖14个居委会、1个社区，天坛街道辖12个居委会、1个社区，克井镇辖51个行政村，五龙口镇辖31个行政村，梨林镇辖45个行政村，轵城镇辖72个行政村，承留镇辖49个行政村，坡头镇辖24个行政村，大峪镇辖30个行政村，邵原镇辖50个行政村，亚桥乡辖23个行政村，思礼乡辖27个行政村，王屋乡辖44个行政村，下冶乡辖38个行政村。
2005年末，济源市辖4个街道、8个镇、4个乡：天坛街道、双桥街道、北海街道、济水街道；五龙口镇、克井镇、邵原镇、坡头镇、轵城镇、承留镇、大峪镇、梨林镇；思礼乡、王屋乡、下冶乡、亚桥乡。
2007年，经河南省政府批准，撤销思礼乡、下冶乡、王屋乡、亚桥乡，分别设立思礼镇、下冶镇、王屋镇和玉泉街道，同时将双桥街道更名为沁园街道。调整后，全市辖5个街道、11个镇：沁园街道、济水街道、北海街道、天坛街道、玉泉街道、克井镇、五龙口镇、轵城镇、承留镇、邵原镇、坡头镇、梨林镇、大峪镇、思礼镇、王屋镇、下冶镇。