原先是明朝太原城内晋王王府的私家花园，栽有大量杏树，且地势较高，故得名杏花岭。民国以前，今杏花岭区属太原府阳曲县管辖。民国十六年(1927年) ，由阳曲县城析置太原市，又分属太原市、阳曲县。1950年置太原市第二区，1954年改北城区。
1996年，北城区面积99平方千米，人口约61万人。辖15个街道：涧河街道、鼓楼街道、职工新街街道、南寨街道、大东关街道、三桥街道、光社街道、坝陵桥街道、古城街道、杏花岭街道、尖草坪街道、敦化坊街道、巨轮街道、上兰街道、迎新街街道。区政府驻解放路。
1997年5月8日，国务院（国函〔1997〕33号）批复同意调整太原市市辖区行政区划，新设立的杏花岭区辖原北城区的涧河、三桥、鼓楼、坝陵桥、大东关、职工新街、敦化坊、巨轮9个街道，原南郊区的杨家峪乡及原北郊区的中涧河、小返2个乡，区人民政府驻解放路。原北城区的尖草坪、光社、上兰、南寨、迎新街、古城6个街道划归新设立的尖草坪区管辖。
1998年元旦，杏花岭区正式成立。1998年末，杏花岭区面积170.2平方千米，其中建成区面积32.2平方千米；人口47.6万人，其中非农业人口44.7万人，农业人口2.9万；辖9个街道、3个乡，364个居委会、51个村委会，60个自然村。
2000年第五次人口普查，杏花岭区常住总人口520702人，其中，巨轮街道75614人，三桥街道77952人，鼓楼街道32471人，杏花岭街道32981人，坝陵桥街道33676人，大东关街道42497人，职工新街街道41849人，敦化坊街道74601人，涧河街道68392人，杨家峪乡16937人，中涧河乡16880人，小返乡6852人。
2001年，撤销杨家峪乡，设立杨家峪街道。调整后，杏花岭区辖10个街道、2个乡：涧河街道、三桥街道、职工新街街道、杏花岭街道、坝陵桥街道、大东关街道、鼓街道、敦化坊街道、巨轮街道、杨家峪街道、中涧河乡、小返乡。
2007年，设立绿苑社区居委会（杏政发〔2007〕60号）。2008年，撤销七府坟村村委会，设立七府坟社区居委会（杏政发〔2008〕98号）；撤销小枣沟村委会，设立小枣沟社区居委会（杏政发〔2008〕109号）；设立西苑社区居委会（杏政发〔2008〕110号）。
2010年第六次人口普查，杏花岭区常住总人口643584人，其中，巨轮街道79085人，三桥街道84007人，鼓楼街道37267人，杏花岭街道41169人，坝陵桥街道44988人，大东关街道54955人，职工新街街道48807人，敦化坊街道79265人，涧河街道76187人，杨家峪街道49984人，中涧河乡32191人，小返乡6574人，民营区9105人。
2015年末，杏花岭区辖10个街道、2个乡（合计12个），107个居委会、40个村委会（合计147个）。