春秋战国属齐国。从明朝始为省、府、县三级官府驻地。1955年9月始称历下区。因在历山之下而得名。
1985年9月，面积24平方千米。设东关、钟楼寺、明湖路、泉城路、趵突泉、正觉寺、司里街、解放阁、文化东路、千佛山、解放路、东门、建筑新村13个街道办事处，146个居委会。
1997年，历下区面积108.3平方千米，人口约46万人。辖10个街道、1个镇。区政府驻十亩园1号。
2000年第五次人口普查，历下区常住总人口582520人。解放路街道面积1.36平方千米，人口31863人；司里街街道面积4.91平方千米，人口56569人；趵突泉街道面积1.64平方千米，人口44414人；泉城路街道面积1.27平方千米，人口20857人；东门街道面积1.77平方千米，人口32704人；东关街道面积1.76平方千米，人口45501人；建筑新村街道面积1.92平方千米，人口53079人；文化东路街道面积6.62平方千米，人口96863人；和平路街道面积1.55平方千米，人口35030人；甸柳新村街道面积1.49平方千米，人口41793人；姚家镇面积76.96平方千米，人口123847人。
2001年11月3日，济南市人民政府《关于同意历下区部分街道办事处更名的批复》（济政字〔2003〕95号）同意将和平路街道更名为燕山街道，东门街道更名为大明湖街道，司里街街道更名为千佛山街道。该年底，全区总面积100.89平方千米，总人口54.58万人，其中非农业人口50.05万人，辖10个街道、1个镇，共有81个社区、20个行政村。
2002年底，历下区总面积100.89平方千米。总人口56万人，其中非农业人口54.9万人。辖10个街道、1个镇，24个行政村、82个社区（村改居1个）（《山东年鉴2003年》数据为82个社区、21个行政村）。
2003年，铁路社区更名为解放路社区；甸北社区更名为甸柳新村第一社区；新设立中创开元山庄社区、绿景嘉园社区、甸北社区（注意前后2个甸北，前者更名，后者属新设立的）。
2003年底，全区总面积100.89平方千米。总人口58.35万人。少数民族33个，共9402人。辖10个街道、1个镇，85个社区、17个行政村。
2006年，历下区辖10个街道、1个镇：解放路街道、司里街街道、趵突泉街道、泉城路街道、东门街道、东关街道、文东街道、建新街道、甸柳街道、和平路街道、姚家镇。
2007年5月28日，经省政府批准，撤销历下区姚家镇，以原姚家镇的行政区域设立姚家街道、智远街道和龙洞街道。6月4日正式实施撤镇设办。至此，历下区辖13个街道。
2010年第六次人口普查，历下区常住总人口754136人，其中，解放路街道40750人，千佛山街道69818人，趵突泉街道53874人，泉城路街道17717人，大明湖街道22197人，东关街道51919人，文东街道95770人，建新街道45936人，甸柳街道48977人，燕山街道43359人，姚家街道162929人，龙洞街道31328人，智远街道25845人，舜华路街道43717人。
2010年，将智远街道的贤文村、牛旺村、徐家村、草山岭村划出新设立舜华路街道。2010年末，全区辖14个街道：解放路街道、千佛山街道、趵突泉街道、泉城路街道、大明湖街道、东关街道、文东街道、建新街道、甸柳街道、燕山街道、姚家街道、龙洞街道、智远街道、舜华路街道。
2015年末，历下区辖14个街道，85个居委会、19个村委会（合计104个）。