待二次忻口会战后，日军认为在山西短时间已无法取得突破，就将注意力再次转向徐州，徐州没有地利，难以阻挡大军进攻。

众多日军将领为了抢夺占领徐州的军功，纷纷请战到苏鲁战场，第十师团矶谷廉介师团、第十四土肥圆师团、第十六中岛师团纷纷到达山东，寺内寿一将第五师团调离山西后，本来准备调回国，不过徐州战急，就改变安排，将第五师团和一零八师团也都调到徐州战场。

不过第五师团已被彻底打折，钢军之名在日军内部都不再提及，并且成了日军内部的笑话。作为师团长的板垣征四郎也被调回了国内，由安腾利吉接任师团长职务。

日军也对山西的布置进行了调整，只留下了二十六师团进行驻扎大同，加强了一个独立第二混成旅团驻防张家口到大同一线，第五师团和第一零八师团全部调往徐州战场，先到石家庄补充兵员和补给。野战第二重炮旅团因为将所有重炮全部失陷在战场，被撤销了编制。

面对日军的调整，山东、江苏告急，武汉国民政府也随之进行部队调整，将在山西的兵力大规模调到将要发生大战的徐州地区。

在3月下旬将二战区之第22集团军、孙连仲之26路军、冯钦哉的27路军、刘汝明之68军全部快速调到山东、江苏，参与徐州会战。

中央军之第14集团军没有动，除此之外，山西的驻军就剩下19军、33军、34军、61军，骑兵第一军等晋绥军所部。

在阎锡山的私下运作下，第四集团军以刚刚成军，并且伤亡惨重为由申请暂时休整，阎锡山在武汉又找人活动，加强在南京帮助救下不少中央军的情分，所以军政部也默认了第四集团军留在山西休整的申请。最后得以将陕军第四集团军留了下来。

但是为了避嫌，第四集团军还是在忻口一线休整，不敢派向别处。

从开战以来，一直作为军队集中地的山西，瞬间显得有点空旷，尤其是在娘子关一线。阎锡山也不得不着手调整山西的部署，首先为娘子关一线增派更多的部队，34军全军到达娘子关一线驻防。33军也到达阳泉驻防，作为娘子关一线的预备队。

除了十四集团军外，只剩下61军和19军都在忻口一线布防，两个军轮流在忻口阵地上驻守。

现在山西的驻军数量减少将近一半，并且除了忻口和娘子关外，日军已经占领了几乎整个黄河以北的华北平原，在晋东南的长治、晋城也处在了日军的威胁之下。而现在山西根本抽不出重兵来守卫晋东南，暂时将教导旅先派去晋城顶着。

阎锡山只能再次扩军，向武汉政府要了一个83军（该军番号以前是粤军，38年撤销）的番号，新成立了一个军，军长由楚溪春担任，全军2师4旅12个团。楚溪春之前担任参谋处长，所以这次从此参谋处抽调多人到83军担任师、旅长。

为了新成立83军，阎锡山将家底又清了一遍，除了将新入伍的一万新兵全部补入，其次又将在第一次太原会战后重新建起来的预备役团中拉出来十个，使部队总人数达到了两万五千人，总算达到了初步成军的条件。

为了给83军尽早形成战斗力，阎锡山想办法给83军增加了老兵的比例，将83军的4个新兵团和33军、34军、19军和61军各换隶一个团，使得83军当下具备了一定的战斗力。

83军成军之后立即调往晋城驻防。