山西新军各部队普遍建立了共产党的组织，实行政治委员制度。绝大多数的旅政治委员由共产党员担任，他们是部队的最高首长，拥有最后决定权。团、营、连的主要政治工作干部也大都由共产党员担任。从而保证了中国共产党对山西新军的领导，增强了部队的战斗力。新军成立后，即分别活动于晋东南、晋西南、晋西北地区，在八路军主力部队的带动下，发动群众，建立抗日根据地，广泛开展抗日游击战争。新军在与八路军协同作战中，阻击日军进攻，粉碎日军围攻、“扫荡”，胜利地进行了许多次重要战役战斗。

1939年冬，国民党顽固派掀起第一次反共高潮，阎锡山首先在山西发起“十二月事变”，命令旧军进攻新军，摧残牺盟会等抗日救亡团体和抗日民主政权。新军被迫奋起还击，终于挫败了旧军的进攻。1940年春，新军各部重新整编为27个团，仍保留晋绥军番号，实际上已经加入八路军的序列，分别集中于晋东南和晋西北两个地区，继续坚持抗日斗争。抗日战争胜利后，阎锡山积极配合蒋介石发动全面内战，最终地破坏了山西统一战线局面。

新军与八路军第120、第129师合编后，先后参加了反击日军五路围攻和白晋战役以及百团大战等战役战斗，为山西及华北的抗日游击战争的最后胜利做出了贡献。山西新军决死队，战果辉煌，在八年抗战中，共进行大小战斗7000余次，毙伤俘日伪顽军5万余人。山西新军出色地完成了抗日战争时期的历史使命，抗战胜利后，加入到中国人民解放军的战斗序列。拥有300万会员的牺盟会的历史贡献得到公认，拥有7万人枪的决死队党军性质得到确定。这是党中央关于牺盟会、决死队冤假错案的平反决定，也是党中央关于山西新军、牺盟会、决死队是“由我党倡议创建，并始终受党领导的革命组织、革命武装”性质的政治结论。