就在日军大举进攻淞沪地区的时候，日军在华北的攻势也从来没有停止过。平绥线方向，自8月8日南口战役爆发之后，我军不畏牺牲，拼死抵抗日军的进攻，给予日军极大杀伤。但是随着板垣征四郎的第五师团全部加入战斗，我军压力逐渐增大，最终因伤亡惨重，被迫于8月26日撤出战斗。8月26日，第五师团占领怀涞。27日，东条英机率领的察哈尔派遣兵团占领延庆，同日察哈尔省会张家口陷落。
张家口失陷后，日军察哈尔派遣兵团及板垣征四郎的第五师团，继续沿平绥铁路向西进攻。
阎锡山于8月28日于代县太和岭设立行营，部署与日军展开大同会战。参加会战的部队有晋绥军王靖国第十九军、李服膺第六十一军、杨澄源的第三十四军、赵承绥骑兵军两个旅、傅作义第三十五军两个步兵旅、陈长捷第七十二师和马延守骑兵旅，西北军刘茂恩的第十五军等部。
金钊在接到消息后，经过和司令部的参谋们商议，决定命令李龙部放弃察东地区，退守绥远，保卫绥远。促使金钊决定放弃察东的原因有两个，一个是，日军一旦严平绥线攻陷绥远，那察东的李龙部将陷入日军三面包围之中，孤悬敌后，处境将异常危险。当然这还不是主要原因，主要原因是金钊曾和傅作义合作，在包头投资建厂，经过两年多的发展，草原钢城已经初具规模，现在的包头已经成为北方重要的工业重镇之一。而且金钊在包头和傅作义建有秘密兵工厂，现在已经初具规模，虽然比不上阎锡山的太原兵工厂，但是也相差不远。傅作义的三十五军和李龙的八十军都完全依赖包头兵工厂进行补充，一旦包头沦陷，对于三十五军和八十军的打击是非常巨大的。而在金钊的印象中，在原来的历史上。包头最终还是沦陷了。所以为了保卫包头。金钊命令李龙放弃察东，撤往绥远的乌兰察布，一旦晋绥军在大同战败，李龙将率部在乌兰察布挡住日军的攻势。当然了敌后作战也相当主要，因此金钊还是让李龙留下了一支游击部队，任命黄康为游击纵队司令，在察东一带坚持敌后作战。
9月1日，日军坂垣第五师团以及东条英机察哈尔派遣兵团先头部队总兵力4.5万人，在飞机和坦克的支援下，自张家口西进。过怀安向天镇六十一军阵地发起猛攻。
阎锡山的部署是以李服膺第六十一军七个团守天镇、高阳，坚决阻击日军进攻。以王靖国第十九军九个团位于大同以东聚乐堡一线接应六十一军；杨澄源第三十四军、西北军刘茂恩部十五军集结大同以南浑源、东井集一带随时增援；以赵承绥骑兵军两个旅集结大同以北兴和一线；以傅作义第三十五军共九个团加两个骑兵旅一个山炮团一个野炮营集结东丰镇和北得胜堡地区作为北线兵团。以此三部作为十九军和六十一军的接应部队，协助阻击日军进攻。从南口突围出来的陈长捷第七十二师加上新编独立第四旅编成预备第一军由陈长捷任军长，集结在大同以南应县。孙楚第三十三军孟宪吉独立第八旅、章拯宇独立第三旅集结龙泉关、平型关之间也作为预备队。此两部为整个大同会战的总预备队。
这是晋绥军继1926年与国民军展开的大同保卫战后第二次大同保卫战。蒋介石对这次作战兴趣非常高，期望以善守闻名的晋绥军在日军进攻面前能够再次创造大同保卫战的胜利。
李服膺的六十一军把主战场选择在天镇，在天镇摆了六个团，高阳只有一个团，企图在天镇给日军以重大杀伤后。以王靖国十九军以及其他后继部队给予反击。李服膺统帅的六十一军，是由其抗战前率领的六十八师改编而成，是个正如当年被人戏为“小师加大旅”的“军”，兵力欠缺得很。其兵力不过一师多人。从敌我双方兵力上讲，守军李服膺的兵力与日军相差甚远。
李服膺接到阎锡山的命令是，“坚守三天，拒敌西进！”当时李服膺认为以自己一军之力坚守三天当不成问题，于是欣然领命。但是战斗一开始，李服膺便知道自己低估了日军的实力。这三天也不是那么好过的。
六十一军将士进入阵地的第二天，日军就发动了攻势。日军先用小股步兵冲到阵地前猛烈射击，试探火力，诱惑我守军部队主动暴露火力。如果是金钊，李龙这样和小鬼子的交过手的将领，必然一眼就看穿了小鬼子的诡计，但是六十一军将士，根本毫无对日作战经验，见日军来攻，纷纷开枪还击！以至于火力点完全暴露，这时小鬼子仓皇后撤。六十一军的将士们，一个个兴奋不已，认为小鬼子也不过如此，一打就跑，他们哪里知道，噩梦才刚刚开始。
很快天空中响起了马达轰鸣声，日军的战机到了。日军先用飞机低空轮番轰炸，继而再用火炮猛烈轰山。每天如此轮番轰炸4、5次，持续4天4夜。最多时，一天竟有32架次日机在阵地上空狂扫滥炸。在双方士兵还未正式照面之前，我守军便在日军的猛烈炮火下损失惨重。
还好虽然在日军的轰炸下，六十一军损失惨重，但是日军步兵并没有发动全面进攻，李服膺轻松的熬过了前三天，但是这时却接到了阎锡山的电令，命令六十一军“续守3天，掩护大同会战。”李服膺无奈只得欣然领命。
但是接下来的三天更加难熬，第五天的时候，日军展开了全面进攻，天上是轮番轰炸的飞机，地上是呼啸齐发的排炮