战国属陈仓县，唐时陈仓县改为宝鸡县。1971年10月，宝鸡市升为直辖市，由原地辖宝鸡市的金台、斗鸡二区合并设立金台区。以境内元末道教建筑“金台观”而得名。
1996年，金台区面积72平方千米，人口约22.9万人.辖8个街道、2个乡：中山东路街道、西关街道、中山西路街道、群众路街道、店子街街道、上马营街道、十里铺街道、卧龙寺街道、陈仓乡、长寿乡。区政府驻中山东路148号。
1998年，长寿乡改为长寿镇，陈仓乡、卧龙寺街道合并为陈仓镇，上马营街道更名为东风路街道。调整后，全区辖7个街道、2个镇。
2000年第五次人口普查，金台区常住总人口272193人，其中：中山东路街道23788人、西关街道28995人、中山西路街道22182人、群众路街道21644人、店子街街道16349人、东风路街道44275人、十里铺街道44967人、长寿镇24241人、陈仓镇45752人。
？年，撤销长寿镇，将罗家塄、福临堡、太平堡、玉涧堡、新春划归西关街道，胜利、长青划归中山西路街道，金台、金陵划归中山东路街道，柳沟、北庵、八里、五星划归群众路街道。2002年，全区辖中山东路街道、西关街道、中山西路街道、群众路街道、店子街街道、东风路街道、十里铺街道、陈仓镇。
2003年3月1日，国务院批准（国函[2003]35号）：将原宝鸡县的金河乡、陵原乡、硖石乡、蟠龙镇划归宝鸡市金台区管辖。？年，撤销店子街街道并入陈仓镇；恢复卧龙寺街道。
2010年第六次人口普查，金台区常住总人口394538人，其中：中山东路街道30781人，西关街道49682人，中山西路街道17260人，群众路街道28501人，东风路街道60395人，十里铺街道49989人，卧龙寺街道23718人，陈仓镇49100人，蟠龙镇37902人，陵原乡13232人，金河乡17233人，硖石乡16745人。
2011年，撤销陵原乡、金河乡，合并设立金河镇；撤销硖石乡，设立硖石镇。调整后，全区辖7个街道、4个镇：中山东路街道、西关街道、中山西路街道、群众路街道、东风路街道、十里铺街道、卧龙寺街道、陈仓镇、蟠龙镇、金河镇、硖石镇。
2012年末，金台区面积310.9平方千米，户籍人口387632人，常住人口39.66万人。2013年末，金台区辖7个街道、4个镇，共有51个社区、102个行政村，区政府驻中山东路。