确定了军改思路之后，第一场雪停止之后，李阳、陈文生等人，也组织第三师的一部分人员，分成三个工作组，分别前往山东这边第八纵队、第九纵队和第十纵队里面，进行调研工作。李阳亲自挂帅，来到了人数最多的第八纵队里面。之前的时候，李阳已经在第八纵队里面进行了视察。虽然看的不是很全面，不过也看到了很多问题。在前不久的沂源县军事会议上面，也已经提及了一些。这一次来，李阳则带着调研队，一个团一个团地挨个进行走访、视察。在李阳、陈文生等人带队下到各个纵队里面走访的时候，阳泉那边的军事院校也派遣出了教员，来到了沂源县。在沂源县附近一带，选定了一些地方之后，华北抗日军政大学等各个军事院校，在沂源县也建立了分校。而与此同时，山东这边第八纵队、第九纵队、第十纵队选派的第一批学员，也送入到了沂源县这边，进行系统化的学习。在这些学员们继续学习的时候，李阳等人也依旧在各地进行视察、走访工作。一直到十二月中旬的时候，李阳也将第八纵队的二十四个团全部看了一遍。看完了第八纵队各个团之后，对于第八纵队的现状，李阳心中也有了一些思路。回到了沂源县之后，李阳就吩咐第八纵队司令杨大牛、副司令赵刚辉等人，来到了沂源县。在沂源县，李阳也将这段时间的调研结果，和华北抗日同盟军总司令部关于山东地区三大纵队整军的初步构思，和杨大牛、赵刚辉两个人，做了简单的陈述。“整军？”杨大牛拍了拍胸膛，看着李阳，说道:“李总，怎么整？你尽管吩咐，俺们第八纵队照做就是了！”听到杨大牛的话，李阳心中有些无语。这个时候的李阳，回想着陈文生和他说的话，也才觉得非常亲切。华北抗日同盟军发展迅速，一些地方的纵队干部，的确不太适合发展壮大之后的队伍领导职务了。李阳从烟盒中掏出三根烟，递给面前的杨大牛、赵刚辉，点上之后，李阳开口说道：“整军之后，若是把你拿下来了，你可愿意？”杨大牛笑着说道：“我杨大牛听从李总的吩咐！李总说怎么办，我就怎么办。李总让我去哪里，我就去哪里。听从李总的安排！”“老杨，”看着杨大牛，李阳开口说道：“你是咱们华北抗日同盟军的老人了，我希望你能起到带头作用，不要闹情绪，也要做好第八纵队各级干部们的思想工作，不要抵触，接受总司令部的整军工作。”“整军这项工作，意义深远。”李阳抽了一口烟，接着说道：“这也是我们总司令部经过深思熟虑之后，确定下来的事情。到时候，不单单山东这边会实行，在河北、山西那边，也会实行。”在说服了杨大牛和赵刚辉之后，陈文生等人也回来了。与陈文生一同回来的，还有第九纵队和第十纵队的高层领导。
和这两个纵队通消息之后，李阳等人也确定了山东军区整改的具体工作。随即，在1942年十二月份，李阳等人成立了华北抗日同盟军山东军区整军委员会。杨大牛领衔，担任山东军区整军委员会主任委员，陈文生、王二柱、陈大雷、赵栋、史恒、赵刚辉、王新华担任委员。整军委员会成立之后，在李阳的领导之下，开始对山东这边的八纵、九纵、十纵，以及邻近山东地区的五纵、七纵部分兵力进行统筹整理。整军委员会也在十二月份召开了第一次整军会议，会议上面陈文生代表总司令部发言，确定了此次整军的原则要求—一主力部队正规化、民兵部队组织化、总部领导绝对化、部队纪律严肃化！四化原则确定完了之后，陈文生也代表总司令部决定，将山东军区整军之后的队伍，分成三大部分。第一，便是由野战部队第三师以及后续部队组成的野战部队。第二，便是将各个纵队的兵员进行筛选，编组主力部队。第三，筛选下去的部队，和基层组织的民兵武装一起，组成民兵部队。野战部队，采用师、团编制，而主力部队则采取旅、营编制。民兵部队，则采用支队编制，人数不定。野战部队、主力部队、民兵部队三大层次，分别赋予不同的任务。在整军初期，从山东地区的各个纵队里面，选拔精锐士兵，准备组建野战部队第五师。在组建野战部队第五师的过程之中，也开始对各个纵队下属的团营级部队，进行整军筛选。整军委员会组建了三个工作组，分别开赴第八纵队、第九纵队和第十纵队，展开工作。此次整军任务，时间定为三个月。争取在开春之后，完成初步整军任务。确定完时间计划表之后，陈文生也宣布将第五纵队位于山东附近的九个团、第七纵队位于山东附近的六个团，全部纳入到山东军区之中。会议上，赵栋和史恒两人也表态，在回去之后，就将所属部队进行划分、交接。等到这两个纵队交接完毕之后，山东军区这边将会有近七十个团的兵力。不过，对于这七十个团的兵力，李阳决定进行缩编，考核筛选下去一些人，进入到民兵武装里面。而另外一部分人员，则纳入到野战部队第五师里面。经过整军之后，七十个团的兵力，暂时缩小到五十个团左右，编为四十个旅。在各个纵队进行整军的时候，李阳也在构思着整军之后的山东军区，究竟派谁来进行领导。这一次山东军区整军，第五纵队的大部分兵力，全部转入到了山东军区里面。赵栋倒是也可以安排在山东军区里面任职。而杨大牛和王二柱，思想格局