1961年底，山西省辖5专区、4省辖市，2市、88县、10市辖区。
太原市 6区 2县
南城区 北城区 河西区 晋源区 古交工矿区 西山工矿区
阳曲县（黄寨镇） 徐清县（清源镇）
大同市 4区
城 区 口泉区 怀仁区 古城区
阳泉市
雁北专区 专署驻大同市 11县
阳高县（城关镇） 天镇县（城关镇） 广灵县（城关镇） 灵丘县（城关镇） 浑源县（城关镇） 应 县（城关镇）
山阴县（岱岳镇） 朔 县（城关镇） 平鲁县（井坪镇） 左云县（城关镇） 右玉县（城关镇）
忻县专区 专署驻忻县 16县
宁武县（城关镇） 静乐县（城关镇） 五台县（城关镇） 繁峙县（城关镇） 兴 县（城关镇） 河曲县（城关镇）
五寨县（城关镇） 原平县（城关镇） 保德县（东关镇） 偏关县（城关镇） 忻 县（城关镇） 定襄县（城关镇）
代 县（城关镇） 岚 县（东村镇） 岢岚县（城关镇） 神池县（城关镇）
晋中专区 专署驻榆次市 1市 19县
榆次市
太谷县（城关镇） 介休县（城关镇） 平遥县（城关镇） 和顺县（城关镇） 汾阳县（城关镇） 临 县（城关镇）
离石县（城关镇） 昔阳县（城关镇） 盂 县（城关镇） 寿阳县（城关镇） 中阳县（城关镇） 文水县（城关镇）
交城县（城关镇） 榆社县（城关镇） 左权县（城关镇） 平定县（城关镇） 祁 县（城关镇） 灵石县（城关镇）
孝义县（城关镇）
晋东南专区 专署驻长治市 1市 14县
长治市
武乡县（城关镇） 沁 县（城关镇） 黎城县（城关镇） 壶关县（城关镇） 晋城县（城关镇） 阳城县（城关镇）
沁源县（城关镇） 襄垣县（城关镇） 平顺县（城关镇） 陵川县（城关镇） 沁水县（城关镇） 高平县（城关镇）
长子县（城关镇） 留屯县（城关镇）
晋南专区 专署驻临汾县 1市 26县
侯马市
临汾县（城关镇） 乡宁县（城关镇） 安泽县（府城镇） 翼城县（城关镇） 稷山县（城关镇） 闻喜县（城关镇）
平陆县（圣人涧镇） 芮城县（城关镇） 垣曲县（刘张镇） 万荣县（城关镇） 运城县（运城镇） 洪洞县（城关镇）
浮山县（城关镇） 蒲 县（城关镇） 石楼县（城关镇） 临猗县（城关镇） 汾西县（城关镇） 霍 县（城关镇）
绛 县（城关镇） 襄汾县（城关镇） 夏 县（城关镇） 永济县（城关镇） 吉 县（城关镇） 大宁县（城关镇）
隰 县（城关镇） 永和县（城关镇）
◎设立雁北、忻县两个专员公署，撤销晋北专员公署，将原晋北专员公署领导的一市19县，分别划归雁北、忻县两专员公署领导（国务院1961年6月2日批准）
◎复设太原南城、北城、河西、晋源4区。（山西省人民委员会1961年5月18日批准）
★1961年7月9日国务院全体会议第111次会议决定：
1．设立天镇县，以阳高县的部分行政区域为天镇县是行政区域。
2．设立右玉县，以左云县的部分行政区域为右玉县的行政区域。
3．设立平鲁县，以朔县的部分行政区域为平鲁县的行政区域。
4．设立忻县、定襄2个县，撤销忻定县，以原忻定县的行政区域划分为忻县、定襄2县的行政区域。
5．设立岢岚、神池2个县，以五寨县的部分行政区域地区划分为岢岚、神池2个县的行政区域。
6．设立岚县，以静乐县的部分行政区域为岚县的行政区域。
7．设立代县，以繁峙县的部分行政区域为代县的行政区域。
8．设立灵石、孝义2个县，以介休县的部分行政区域为灵石、孝义2个县的行政区域。
9．设立祁县，以太谷县的部分行政区域为祁县的行政区域。
10．设立平定县，以阳泉市的部分行政区域为平定县的行政区域。
11．设立霍县、汾西2县，撤销霍汾县，以原霍汾县的行政区域划分为霍县、汾西2县的行政区域。
12．设立绛县，以侯马市和翼城、闻喜2县的部分行政区域为绛县的行政区域。
13．设立夏县，以闻喜县的部分行政区域为夏县的行政区域。
14．设立襄汾县，以侯马市和临汾县的部分行政区域为襄汾县的行政区域。
15．设立吉县，以乡宁县的部分行政区域为吉县的行政区域。
16．设立永济县，以运城县的部分行政区域为永济县的行政区域。
17．设立大宁、永和、隰县3个县，撤销吕梁县，以原吕梁县的行政区域划分为大宁、永和、隰县3个县的行政区域。
18．设立高平县，以晋城县的部分行政区域为高平县的行政区域。
19．设立屯留、长子2个县，撤销屯长县，以原屯长县的行政区域划分为屯留、长子2个县的行政区域。
◎山西省阳城县郭庄生产大队划归河南省济源县。（国务院1961年11月7日批准）
◎设立太原市西山工矿区。（山西省人民委员会1961年11月21日批准）
◎1961年11月22日山西省人民委员会批准，11月27日上报备案：
1．大同市原属晋北专员公署领导，现划归省直辖。
2．阳泉市原属晋北专员公署领导，现划归省直辖。