据《元和郡县志》，五台县以境东北五台山得名。西汉置虑睤县，故治在今城关东北古城村，属太原郡，晋废。北魏太和十年（486）置驴夷县，属新兴郡。永安中年改属永安郡。北齐属雁门郡。
隋大业二年（606）改五台县，仍属雁门郡。唐属代州。金贞佑四年（1216）升五台县为台州，隶太原府。元隶冀宁路。明洪武二年（1369）废台州，复置五台县，初属太原府，八年改属代州。民国初年属雁门道，道废后直属省。
1949年属忻县专区。1958年属晋北专区。1961年复属忻县专区。1967年属忻县地区。1983年属忻州地区。2000年属地级忻州市。
1997年，五台县辖4镇21乡：城关镇、台怀镇、豆村镇、耿镇镇、灵境乡、神西乡、李家寨乡、东雷乡、湾子乡、沟南乡、铜钱沟乡、大石乡、门限石乡、茹村乡、蒋坊乡、柳院乡、陈家庄乡、天和乡、高洪口乡、屋腔乡、东峪口乡、刘家庄乡、石嘴乡、刘定寺乡、阳白乡。
2000年第五次人口普查，五台县总人口313321人，其中：城关镇30160人，台怀镇10525人，耿镇镇11507人，豆村镇15393人，自家庄镇13723人，东冶镇38301人，沟南乡18021人，刘家庄乡7302人，东雷乡13038人，高洪口乡8672人，门限石乡7741人，湾子乡2850人，屋腔乡3713人，陈家庄乡11179人，东峪口乡4522人，建安乡16417人，神西乡7454人，蒋坊乡10899人，大石乡5679人，李家寨乡4030人，灵境乡1877人，刘定寺乡858人，柳院乡3196人，阳白乡17533人，红表乡7881人，茹村乡25422人，天和乡7087人，石咀乡4578人，金岗库乡2212人，铜钱沟乡1551人。
2001年区划调整后，全县辖6个镇、13个乡：台城镇、台怀镇、耿镇镇、豆村镇、白家庄镇、东冶镇、沟南乡、东雷乡、高洪口乡、门限石乡、陈家庄乡、建安乡、神西乡、蒋坊乡、灵境乡、阳白乡、茹村乡、石咀乡、金岗库乡。共有576个行政村、768个自然村。县政府驻台城镇。