据《太平寰宇记》榆中国大、小榆谷为名。秦始皇三十三年（公元前214年）置榆中县。北魏废榆中县入金城县。北宋置龛谷寨，属兰州。金置龛谷、定远县。正大三年（1226）升龛谷县为金州（元移治今城关）。
明降金州为金县，属临洮府。清属兰州府。1912年改为金城县，1919年改为榆中县。1949年后属定西专区，1970年划归兰州市。
1996年，榆中县面积3282.5平方千米，人口41.4万人。辖3个镇、25个乡：城关镇、夏官营镇、高崖镇、青城乡、来紫堡乡、金崖乡、三角城乡、小康营乡、连搭乡、定远乡、和平乡、兰山乡、银山乡、马坡乡、上庄乡、甘草店乡、龙泉乡、韦营乡、中连川乡、贡井乡、上花岔乡、哈岘乡、新营乡、清水驿乡、梁坪乡、鲁家沟乡、垲坪乡、园子岔乡。县政府驻城关镇。
2000年第五次人口普查，榆中县总人口415513人，其中（6个镇、21个乡）：城关镇48927人，夏官营镇18680人，高崖镇12521人，金崖镇21116人，和平镇19665人，甘草店镇18203人，青城乡21262人，来紫堡乡19220人，三角城乡25060人，小康营乡26867人，连搭乡31176人，定远乡17848人，兰山乡8371人，银山乡9368人，马坡乡8694人，上庄乡8015人，新营乡19559人，清水驿乡21249人，龙泉乡11175人，韦营乡6123人，中连川乡6137人，贡井乡7941人，垲坪乡3884人，园子岔乡8704人，上花岔乡7775人，哈岘乡5556人，梁坪乡2417人。
2005年末，榆中县辖8个镇、12个乡：城关镇、甘草店镇、夏官营镇、高崖镇、青城镇、金崖镇、定远镇、和平镇、小康营乡、清水驿乡、中连川乡、园子岔乡、上花岔乡、哈岘乡、连搭乡、马坡乡、新营乡、龙泉乡、韦营乡、贡井乡。共有4个社区、268个行政村，1453个村民小组。
2008年末，榆中县总面积3301.60平方千米。辖8个镇、15个乡：城关镇、夏官营镇、高崖镇、金崖镇、和平镇、甘草店镇、青城镇、定远镇、来紫堡乡、三角城乡、小康营乡、连搭乡、银山乡、马坡乡、新营乡、清水驿乡、龙泉乡、韦营乡、中连川乡、贡井乡、园子岔乡、上花岔乡、哈岘乡。共有268个行政村，1617个村民小组。农村人口9.48万户/38.79万人。
2010年第六次人口普查，榆中县常住总人口437163人，其中，城关镇67563人，夏官营镇38342人，高崖镇9548人，金崖镇23884人，和平镇63323人，甘草店镇15176人，青城镇17018人，定远镇16499人，来紫堡乡19171人，三角城乡23235人，小康营乡21398人，连搭乡27365人，银山乡7737人，马坡乡14683人，新营乡17018人，清水驿乡16329人，龙泉乡9707人，韦营乡4425人，中连川乡6600人，贡井乡5085人，园子岔乡5181人，上花岔乡4972人，哈岘乡2904人。
2012年12月，将榆中县的定远镇、连搭乡委托兰州高新区代管。
2015年末，全县辖8个镇、12个乡，4个社区、268个行政村。
2016年，省民政厅（甘民复〔2016〕52号）批复同意撤销连搭乡、新营乡、贡井乡，设立连搭镇、新营镇、贡井镇。