2003年底，山西省辖11地级市，11县级市、85县、23市辖区，564镇、634乡、188街道。
太原市 6区 1市 3县
杏花岭区 小店区 迎泽区 尖草坪区 万柏林区
晋源区
古交市
清徐县（清源镇） 阳曲县（黄寨镇） 娄烦县（娄烦镇）
大同市 4区 7县
城 区 矿 区 南郊区 新荣区
阳高县（龙泉镇） 天镇县（玉泉镇） 广灵县（壶泉镇） 灵丘县（灵丘镇） 浑源县（永安镇）
左云县（云兴镇） 大同县（西坪镇）
阳泉市 3区 2县
城 区 矿 区 郊 区
平定县（冠山镇） 盂 县（秀山镇）
长治市 2区 1市 10县
城 区 郊 区
潞城市
长治县（韩店镇） 襄垣县（古韩镇） 屯留县（麟绛镇） 平顺县（青羊镇） 黎城县（黎侯镇）
壶关县（龙泉镇） 长子县（丹朱镇） 武乡县（丰州镇） 沁 县（定昌镇） 沁源县（沁河镇）
晋城市 1区 1市 4县
城 区
高平市
泽州县（南村镇） 沁水县（龙港镇） 阳城县（凤城镇） 陵川县（崇文镇）
朔州市 2区 4县
朔城区 平鲁区
山阴县（岱岳镇） 应 县（金城镇） 右玉县（新城镇） 怀仁县（云中镇）
晋中市 1区 1市 9县
榆次区
介休市
榆社县（箕城镇） 左权县（辽阳镇） 和顺县（义兴镇） 昔阳县（乐平镇） 寿阳县（朝阳镇）
太谷县（明星镇） 祁 县（昭余镇） 平遥县（古陶镇） 灵石县（翠峰镇）
忻州市 1区 1市 12县
忻府区
原平市
定襄县（晋昌镇） 五台县（台城镇） 代 县（上馆镇） 繁峙县（繁城镇） 宁武县（凤凰镇）
静乐县（鹅城镇） 神池县（龙泉镇） 五寨县（砚城镇） 岢岚县（岚漪镇） 河曲县（文笔镇）
保德县（东关镇） 偏关县（新关镇）
临汾市 1区 2市 14县
尧都区
侯马市 霍州市
曲沃县（乐昌镇） 翼城县（唐兴镇） 襄汾县（新城镇） 洪洞县（大槐树镇） 古 县（岳阳镇）
安泽县（府城镇） 浮山县（天坛镇） 吉 县（吉昌镇） 乡宁县（昌宁镇） 蒲 县（蒲城镇）
大宁县（昕水镇） 永和县（芝河镇） 隰 县（龙泉镇） 汾西县（永安镇）
运城市 1区 2市 10县
盐湖区
永济市 河津市
芮城县（古魏镇） 临猗县（猗氏镇） 万荣县（解店镇） 新绛县（龙兴镇） 稷山县（稷峰镇）
闻喜县（桐城镇） 夏 县（瑶峰镇） 绛 县（古绛镇） 平陆县（圣人涧镇） 垣曲县（新城镇）
吕梁市 1区 2市 10县
离石区
孝义市 汾阳市
文水县（凤城镇） 中阳县（宁兴镇） 兴 县（蔚汾镇） 临 县（临泉镇） 方山县（圪洞镇）
柳林县（柳林镇） 岚 县（东村镇） 交口县（水头镇） 交城县（天宁镇） 石楼县（灵泉镇）
★撤销吕梁地区，设立地级吕梁市（国务院2003年10月23日批准 国函[2003]112号）
（1）撤销吕梁地区和县级离石市，设立地级吕梁市。市人民政府驻新设立的离石区永宁中路。
（2）吕梁市设立离石区，以原离石市的行政区域为离石区的行政区域，区人民政府驻交通路。
（3）吕梁市辖原吕梁地区的交城县、文水县、兴县、岚县、临县、方山县、中阳县、柳林县、交口县、石楼县和新设立的离石区，原吕梁地区的县级汾阳市和孝义市由省直辖。