东汉建安十三年（208）置休阳县。三国吴改名为海阳县，晋改为海宁县。隋开皇十八年（598）改休宁县。休宁，乃合休阳、海宁为名。
1949年属徽州专区，1956年属芜湖专区，1961年属徽州专区，1987年为黄山市辖县。
1997年，休宁县面积2151平方千米，人口27.3万，辖9个镇、24个乡：海阳镇、五城镇、万安镇、溪口镇、流口镇、兰田镇、汪村镇、齐云山镇、东临溪镇、龙田乡、璜尖乡、白际乡、岭南乡、山后乡、秀阳乡、渭桥乡、江潭乡、陈霞乡、榆村乡、汊口乡、洪里乡、商山乡、西田乡、板桥乡、冰潭乡、迥溪乡、渠口乡、郑湾乡、山斗乡、源芳乡、南塘乡、鹤城乡、兰渡乡。县政府驻海阳镇。
2000年全县总人口242260人，其中：海阳镇32718人，齐云山镇4714人，万安镇22339人，五城镇13659人，东临溪镇10210人，兰田镇7502人，溪口镇12607人，流口镇4768人，汪村镇5165人，秀阳乡8991人，洪里乡11471人，商山乡7144人，西田乡5969人，山斗乡4509人，岭南乡2852人，兰渡乡7986人，渭桥乡6259人，渠口乡6350人，南塘乡4844人，江潭乡5971人，板桥乡4882人，廻溪乡3847人，陈霞乡3936人，冰潭乡3342人，鹤城乡6608人，山后乡3500人，汉口乡7880人，源芳乡4020人，榆村乡5391人，郑湾乡4798人，龙田乡3899人，璜尖乡2479人，白际乡1650人。
2004年底，休宁县辖9个镇、12个乡（正式区划调整时间为2005年）。
2005年，休宁县原有的33个乡镇正式调整为21个乡镇（注：批准时间为2004年）。对24个乡镇行政区划进行了调整，秀阳乡并入海阳镇，洪里乡与商山乡合并，设立新的商山乡，乡政府驻雁里。西田乡并入五城镇，汊口乡并入东临溪镇，渠口乡并入渭桥乡，南塘乡并入蓝田镇，蓝渡乡并入齐云山镇，冰潭、江潭两乡并入溪口镇，回溪乡并入陈霞乡，山后乡并入汪村镇，郑湾乡的藏溪村、酒店村、文田村、岭上村、岭下村划入榆村乡管辖，郑湾乡的万金台村划入源芳乡管辖，岭南乡、山斗乡、璜尖乡、白际乡、龙田乡、板桥乡、鹤城乡、流口镇、万安镇等9个乡镇原行政区划不动，全县乡镇区划调整后共设9个镇12个乡。