磁县在春秋时属晋地，战国时归赵，秦属邯郸郡。汉时置梁期县。三国魏黄初三年（222年）设临水县（今磁县城）。北周保定元年（561年）置滏阳县和成安郡。隋开皇十年（590年）置慈州（治所在今磁州），以县西九十里有磁山产磁石而得名，领滏阳、临水二县。之后两废一置。唐永泰元年（765年）复置礠州，加石字旁，以与河东慈州相区别。天祐三年（906年），因与河东慈州音同，改为惠州。后梁复为礠州。
宋政和三年（1113年），礠州改为磁州。元末州县俱废。明洪武元年（1368年）复置磁州，属广平府。翌年改属河南彰德府，领武安、涉县二县。清雍正四年（1726年）因“永邯争水”，复属直隶广平府，不再领县。民国二年（1913年）磁州降为磁县，属直隶省冀南道。民国3年属大名道，民国17年废道，直属于河北省。民国30年（1941年）县抗日民主政府属晋冀鲁豫边区太行五专署。民国31年与武安县、邯郸县部分地区组成磁武县。
民国34年（1945年）全县解放，恢复原建制，属第六专署，县政府驻地在今峰峰矿区彭城。1946年后历属太行区三专区、五专区、六专区。1948年9月属华北行政区六专区。1949年属河北省邯郸专区，县政府驻今磁州。1958年11月临漳、成安二县并入磁县。1960年5月邯郸专区撤销，磁县属邯郸市。1961年复属邯郸专区，5月成安、临漳二县分出，恢复原建制。1970年专区改为地区，磁县属邯郸地区。1993年7月地市合并，属邯郸市。
1984年4月，撤销34个公社，设立34个乡，同时保留城关镇；5月，省政府批准设立白土镇、林坦镇、岳城镇、观台镇、高臾镇；12月，省政府同意设立城关、高臾、时村营、林坦、白土5个区。1987年12月28日，经省政府同意：城关镇更名为磁州镇（1989年4月24日更名）。1989年4月，省政府同意撤销城关、高臾、时村营、林坦、白土5个区公所。
1996年1月，开河乡、北来村乡、东槐树乡并入磁州镇，白塔乡并入高臾镇，东古佛乡并入林坦镇，五合乡并入白土镇，下庄店乡并入路村营乡，驸马沟乡并入西固义乡，杜村乡并入西光禄乡（同年末标准名称定为光禄乡），李庄乡并入辛庄营乡，东城营乡并入花官营乡，申庄乡并入讲武城乡，史村乡并入南城乡，林峰乡并入台城乡，中岔口乡并入陶泉乡，杨家堂乡并入北贾壁乡。至此，全县辖6个镇、13个乡：磁州镇、白土镇、观台镇、林坦镇、岳城镇、高臾镇、黄沙乡、路村营乡、贾壁乡、都党乡、陶泉乡、南城乡、辛庄营乡、花官营乡、时村营乡、讲武城乡、西固义乡、光禄乡、台城乡。面积1014平方千米，人口约59.8万人。
1998年12月，黄沙、讲武城、光禄3乡撤乡改镇。调整后，全县辖9个镇、10个乡，即磁州镇、光禄镇、高臾镇、岳城镇、观台镇、林坦镇、黄沙镇、白土镇、讲武城镇、路村营乡、西固义乡、辛庄营乡、花官营乡、时村营乡、南城乡、台城乡、陶泉乡、都党乡、贾璧乡。
2000年第五次人口普查，磁县常住总人口634470人，其中：磁州镇124082人，高臾镇39877人，光禄镇35585人，讲武城镇46581人，岳城镇32983人，观台镇31946人，林坦镇30566人，白土镇21863人，黄沙镇16447人，路村营乡21913人，西固义乡21005人，辛庄营乡39400人，花官营乡32769人，时村营乡25310人，南城乡24173人，台城乡23998人，陶泉乡19691人，都党乡16547人，北贾璧乡29734人。
2002年，磁县面积1035平方千米，人口约63.6万人。辖讲武城、黄沙、磁州、高臾、观台、光禄、岳城、林坛、白土9个镇和路村营、西固义、陶泉、辛庄营、花官营、时村营、南城、台城、都党、北贾璧10个乡，18个社区、372个行政村。县政府驻磁州镇。
2010年第六次人口普查，磁县常住总人口677884人，其中：磁州镇143465人，高臾镇46259人，光禄镇42315人，讲武城镇48065人，岳城镇35428人，观台镇32198人，林坛镇31123人，白土镇21135人，黄沙镇16579人，路村营乡23815人，西固义乡21795人，辛庄营乡43575人，花官营乡34947人，时村营乡26392人，南城乡23057人，台城乡26647人，陶泉乡16478人，都党乡16009人，北贾壁乡28602人。
2014年4月，将磁县的西固义乡以及西固义等9个村改由邯郸市峰峰矿区托管，将东驸马沟一街等12个村划归磁州镇。2016年，国务院（国函〔2016〕157号）批复同意将磁县的高臾镇、光禄镇、辛庄营乡、花官营乡、台城乡划归邯郸市邯山区管辖，将磁县的林坛镇、南城乡划归邯郸市复兴区管辖。（划出的7个乡镇实际由冀南新区代管）