1954年底，山西省辖5专区、4省辖市，1市、95县、13市辖区、1镇。
太原市 6区
南城区 北城区 新城区 小店区 晋源区 万柏林区
大同市 3区
城 区 郊 区 口泉矿区
阳泉市 2区
第一区 第二区
长治市 2区
黄碾区 城郊区
雁北专区 专署驻大同市 12县
阳高县（城关） 天镇县（城关） 广灵县（城关） 灵丘县（城关） 浑源县（城关） 应 县（城关）
山阴县（岱岳） 朔 县（城关） 平鲁县（井坪） 左云县（城关） 右玉县（城关） 大仁县（大同市）
忻县专区 专署驻忻县 17县
忻 县（城关） 代 县（城关） 宁武县（城关） 静乐县（城关） 五台县（城关） 定襄县（城关）
繁峙县（城关） 崞 县（城关） 阳曲县（黄寨） 岚 县（东村） 岢岚县（城关） 兴 县（城关）
保德县（东关） 河曲县（巡镇） 偏关县（城关） 神池县（城关） 五寨县（城关）
榆次专区 专署驻榆次市 1市 21县
榆次市
榆次县（榆次市） 平定县（城关） 盂 县（城关） 寿阳县（城关） 祁 县（城关） 太谷县（城关）
介休县（城关） 灵石县（城关） 平遥县（城关） 昔阳县（城关） 和顺县（城关） 左权县（城关）
榆社县（城关） 孝义县（城关） 汾阳县（城关） 文水县（城关） 交城县（城关） 中阳县（城关）
临 县（城关） 徐清县（清源） 离山县（城关）
长治专区 专署驻长治市 15县
长子县（城关） 屯留县（城关） 武乡县（段村） 沁 县（城关） 沁源县（城关） 襄垣县（城关）
黎城县（城关） 壶关县（城关） 平顺县（城关） 高平县（城关） 晋城县（城关） 阳城县（城关）
陵川县（城关） 沁水县（城关） 潞安县（长治市）
晋南专区 专署驻临汾县 30县 1镇
临汾县（城关） 曲沃县（城关） 吉 县（城关） 乡宁县（城关） 安泽县（城关） 大宁县（城关）
永和县（城关） 蒲 县（城关） 汾西县（城关） 隰 县（城关） 霍 县（城关） 浮山县（城关）
翼城县（城关） 石楼县（城关） 赵洪县（城关） 襄汾县（史村） 安邑县（城关） 河津县（城关）
稷山县（城关） 新绛县（城关） 闻喜县（城关） 夏 县（城关） 平陆县（城关） 永济县（赵伊）
芮城县（城关） 垣曲县（城关） 绛 县（城关） 万荣县（解店） 解虞县（城关） 临猗县（猗氏）
运城镇
◎1954年4月9日国务院批准：
1．撤销临汾专区、运城专区，合并设立晋南专区，驻临汾县。
2．撤销临晋县、猗氏县，合并设立临猗县，驻猗氏。
3．撤销万泉县、荣河县，合并设立万荣县，驻解店。
4．撤销虞乡县、解县，合并设立解虞县，驻原解县城关。
5．撤销洪洞县、赵城县，合并设立洪赵县，驻原洪洞县城关。
6．撤销离石县、方山县，合并设立离山县，驻原离石县城关。
7．撤销潞城县，长治县，合并设立潞安县，驻长治市。
8．撤销大同县、怀仁县，合并设立大仁县，驻大同市。
9．撤销襄陵县、汾城县，合并设立襄汾县。
10．设立榆次市，以榆次县的城关区为其行政区域。
◎撤销大同市第一、二区，合并设立城区。（1954年4月14日大同市人民政府批准）
◎撤销大同市第三、四区，合并设立郊区。（1954年6月1日山西省人民政府批准）
◎太原市第一至第六区分别更名为南城、北城、新城、小店、万柏林、晋源等6区。（1954年6月5日山西省人民政府批准）
◎襄汾县驻地迁至史村（山西省人民政府1954年10月14日批准）
◎山西省平顺县的苇池凹村、高家台村划归河南省林县。（内务部1954年12月11日批准）（注：河南省注解为内务部1953年4月30日批准）