据《元和郡县志》，五台县以境东北五台山得名。西汉置虑睤县，故治在今城关东北古城村，属太原郡，晋废。北魏太和十年（486）置驴夷县，属新兴郡。永安中年改属永安郡。北齐属雁门郡。隋大业二年（606）改五台县，仍属雁门郡。唐属代州。
金贞佑四年（1216）升五台县为台州，隶太原府。元隶冀宁路。明洪武二年（1369）废台州，复置五台县，初属太原府，八年改属代州。民国初年属雁门道，道废后直属省。1949年属忻县专区。1958年属晋北专区。1961年复属忻县专区。1967年属忻县地区。1983年属忻州地区。2000年属地级忻州市。
1996年，五台县面积2865平方千米，人口约31万人。辖4个镇、21个乡：城关镇、台怀镇、豆村镇、耿镇镇、灵境乡、神西乡、李家寨乡、东雷乡、湾子乡、沟南乡、铜钱沟乡、大石乡、门限石乡、茹村乡、蒋坊乡、柳院乡、陈家庄乡、天和乡、高洪口乡、屋腔乡、东峪口乡、刘家庄乡、石嘴乡、刘定寺乡、阳白乡。县政府驻城关镇。
2000年第五次人口普查，五台县常住总人口313321人，其中，城关镇30160人，台怀镇10525人，耿镇镇11507人，豆村镇15393人，自家庄镇13723人，东冶镇38301人，沟南乡18021人，刘家庄乡7302人，东雷乡13038人，高洪口乡8672人，门限石乡7741人，湾子乡2850人，屋腔乡3713人，陈家庄乡11179人，东峪口乡4522人，建安乡16417人，神西乡7454人，蒋坊乡10899人，大石乡5679人，李家寨乡4030人，灵境乡1877人，刘定寺乡858人，柳院乡3196人，阳白乡17533人，红表乡7881人，茹村乡25422人，天和乡7087人，石咀乡4578人，金岗库乡2212人，铜钱沟乡1551人。
2001年区划调整后，全县辖6个镇、13个乡：台城镇、台怀镇、耿镇镇、豆村镇、白家庄镇、东冶镇、沟南乡、东雷乡、高洪口乡、门限石乡、陈家庄乡、建安乡、神西乡、蒋坊乡、灵境乡、阳白乡、茹村乡、石咀乡、金岗库乡。共有576个行政村、768个自然村。县政府驻台城镇。
2010年第六次人口普查，五台县常住总人口299391人，其中，台城镇40145人，台怀镇11814人，耿镇镇14861人，豆村镇26880人，白家庄镇11668人，东冶镇37748人，沟南乡23448人，东雷乡10311人，高洪口乡7157人，门限石乡8519人，陈家庄乡14939人，建安乡13988人，神西乡6319人，蒋坊乡10421人，灵境乡1841人，阳白乡21424人，茹村乡30612人，石咀乡5240人，金岗库乡2056人。
2015年末，五台县辖6个镇、13个乡（合计19个），15个居委会、573个村委会（合计588个）。