秦置黟县，属鄣郡。据《水经注》：“浙江又北历黟山。县居山之阳，故县氏之。”据《清史稿》：“县以黟山名，即今黄山也。”
宋、元、明、清均属徽州管辖。1956年属芜湖专区。1959年并入祁门县。1961年属徽州专区。1987年为黄山市辖县。
1997年，黟县面积858平方千米，人口9.8万，辖3个镇、9个乡：碧阳镇、际联镇、渔亭镇、龙江乡、碧山乡、西武乡、柯村乡、美溪乡、宏潭乡、东源乡泗溪乡、洪星乡。县政府驻碧阳镇。
2000年全县总人口93919人，其中（4个镇、8个乡）：碧阳镇25550人，际联镇7731人，渔亭镇8524人，西递镇6104人，柯村乡6446人，美溪乡3974人，宏潭乡5383人，洪星乡4824人，泗溪乡2054人，龙江乡8703人，碧山乡6517人，西武乡8109人。
2004年，黟县乡镇由12个调整为8个。2004年底，黟县辖4个镇、4个乡。