北魏建义元年（528）于今县城东北18千米古阳镇置安泽县，以“界安吉、泽泉间”得名。大业二年（606）改岳阳县。唐武德二年（619）徙治今县城东南17千米旧县镇。
蒙古至元四年（1267）废，寻复置，属晋宁路。明、清属平阳府。民国三年（1914）改安泽县，属河东道，道废后直属省。
1971年析安泽、浮山2县地置古县，因原古县镇为县治故名，属临汾地区。2000年属地级临汾市。
1997年，古县辖4个镇、6个乡：城关镇、北平镇、古阳镇、旧县镇、下冶乡、石必乡、永乐乡、郭店乡、店上乡、茶坊乡。县政府驻城关镇。
2000年第五次人口普查，古县总人口84696人，其中：城关镇23170人，北平镇12063人，古阳镇11182人，旧县镇10511人，下冶乡6956人，石壁乡5958人，永乐乡5506人，郭店乡2949人，店上乡2812人，茶坊乡3589人。
2001年，撤销城关镇、下冶乡，设立岳阳镇；撤销郭店乡、店上乡、茶坊乡，设立南垣乡。区划调整后，全县辖4个镇、3个乡：岳阳镇、北平镇、古阳镇、旧县镇、石壁乡、永乐乡、南垣乡。县政府驻岳阳镇。