山西省长城修筑自战国始。
战国末年长平之战(公元前262—前260年),秦、赵双方在山西东南部及与河北的交界区域兴建长城防线。长城资源调查认定,目前山西省内的战国长城资源东起陵川县,经壶关县,西至高平市,遗存墙体9段,长27338米,烽燧2座。东汉建武十二年至二十一年(公元36—45年),为抵御匈奴游牧民族的袭扰,汉光武帝刘秀下令在山西北部及中部地区修筑亭候、烽燧等长城防御设施。长城资源调查认定,目前山西省内的汉长城资源东起天镇县,经左云县,西至右玉县,遗存墙体25段,长49224米,秦汉时期敌台5座、烽火台2座。北魏泰常八年(423),明元帝令修筑长城以抵御北方柔然汗国的侵犯;太平真君七年(446),太武帝令“十万人筑畿上塞围”,均途经山西北部。长城资源调查认定,目前山西省内的北魏长城资源分布于大同市天镇县北部,大致呈东北-西南走向,遗存墙体5段,长4264米,敌台3座。东魏武定元年(543),“齐献武王召夫五万于肆州北山筑城,西自马陵戍,东至土隥”,即今山西省忻州市宁武县中部至原平市西北部一带。长城资源调查认定,目前山西省内的东魏长城资源均位于忻州市宁武县中部,遗存9处,其中关8座、堡1座。北齐时期修筑长城的次数最为频繁,其中天保三年(552)的黄栌岭至社干戍长城、天保六年(555)的幽州北夏口至恒州长城、天保七年(556)的西河总秦戍至海长城、天保八年(557)的库洛拔至坞纥戍重城、河清二年(563)的轵关长城,其修筑地域均涉及山西。北周大象元年(579),在前代长城的基础上修筑了“西自雁门,东至碣石”的长城,局部位于山西境内。隋代开皇年间(581—600),朝廷曾在北方边境“缘边修保鄣,峻长城”,主体修缮利用了北齐天保七年的长城并有所增筑,经过山西省北部。目前山西省内的隋长城分布于忻州市岢岚县,遗存墙体3段,长899米。唐初,在今山西太谷县东南马陵关至和顺县西部一带筑有长城,贞观元年(公元627年)废。五代后梁太祖开平元年(907),后梁在与李克用争夺潞州(今山西省长治市)期间,曾修筑“夹寨”用于战事。目前山西省内的五代长城分布于晋城市沁水县东北部与长子县交界处,遗存墙体3段,长8122米,铺舍1座。北宋景德年间(1004—1007)曾在草城川(今岢岚县北)一带修筑长城。明代北方边疆惟重九边,九边之中山西居其二,即畿辅重镇大同镇、山西镇。山西境内明长城分为外、内长城,外长城为边境防御,内长城为京畿拱卫。洪武(1368—1398)初年,在雁门关一带修建城池、堡寨、关隘等;永乐年间(1403—1424),形成“自宣府迤西迄山西,缘边皆峻垣深壕,烽堠相接”的防御体系,并设大同镇;嘉靖年间(1522—1566)设山西镇,修筑长城、堡寨规模扩大;隆庆(1567—1572)、万历(1573—1620)年间,对山西境内长城及其附属设施的修建、加固继续增强,直至万历以后长城修筑逐渐减少。长城资源调查认定,目前山西省内的明长城资源分布于25个县(市、区),墙体582段,长910541.57米。其中以偏关县最多,长达119945.5米。