关于西北皖军的结局，在冯玉祥率领西北军进驻陕西后，方振武没有在陕西停留，而是脱离西北军，回到安徽。值得一提的是，不久后杨虎臣也因为对冯玉祥在西安以主人自居而不满，率领陕军出走前往安徽，驻扎在太和。
北伐战争爆发，方振武选择加入北伐军，同在安徽的陕军也接到了要求参加北伐军的命令，但杨虎城很清楚如果和方振武一起加入北伐军，那自己势必要接受方振武领导，杨虎城并不想屈居任何人之下，便拒绝了。最终仅有陕军冯华堂旅参加北伐战争。

在攻克济南后，老蒋将济南的防卫任务则交给皖军来担任主力，由方振武任济南卫戍司令。不久，惨痛的五三济南惨案爆发！因为老蒋的不抵抗政策，许多北伐将士因为此政策被日寇就地缴械后残杀！方振武的三万皖军因为是济南防卫军主力，再加上不受老蒋直接领导，以及因甲午战争导致的安徽人对日寇的敌视等种种因素，他们并没有像其他济南城内的北伐军选择缴械，束手就擒。而是一直在给予反击，陕军的冯华堂旅也拒绝缴械，和皖军一直在内城反击，最终一起乘着夜晚逃出人间炼狱般的济南城。
因为是济南惨案中，唯一对日寇发起反击的部队，方振武和其的皖军在全国声名大噪，越来越多的抗日志士选择来安徽加入皖军。老蒋当然不愿意看到在南京家门口有这样一支不听自己话的势力。最终使用美人计，把方振武骗到南京软禁，留守安徽的皖军拒绝老蒋的贿赂，发起兵变，最终被中央军出兵安徽镇压。余亚农和鲍刚率领皖军残部前往太原，投靠原皖系大军阀段祺瑞的学生阎锡山的晋军。

九一八事变后，全国掀起抗日高潮，老蒋迫于民间压力，释放方振武，方振武出狱后前往山西，召集皖军旧部，1933年3月5日，方振武举行了“绵山誓师”，成立抗日救国军，出任总指挥，通电全国，准备北上抗日。在一次誓师大会上，方振武慨激昂地发表演说后，咬破中指，在一块白布上写下“有我无敌，有敌无我”八个股红的血字。以下是方振武“绵山誓师”的电文：
前安徽省政府主席方振武，自去年养病沪滨，久不闻政，近鉴于国难日亟，复受旧属鲍刚，张人杰两部竭诚推促，逐毅然典卖家产约得十五万元，于上月底携款赴晋，将鲍张两部约二万人，改编为抗日救国军，于本月一日在介休誓师，通电就抗日救国军总指挥职。即日从介休、孝义二地出发，张部现已抵东阳关，鲍部已至沁州，闻一俟全部到达邯郸后，即沿平汉线北上，参加前线。兹录其通电于次：
日本帝国主义之侵略我中国由来已久，始而台湾、琉球，继而朝鲜、旅大。近且占据东三省，又复夺我锦州，申江之血迹未干，榆关之烽熖迭起。平津滋扰，热河告急，蚕食鲸吞，有加无已。鬼蜮为心，不宣而战，弃公约如废纸，视国联同儿戏。蛮悍横行，不顾一切。寇深堂奥，危亡立待。救亡之道，祇有立下决心，坚定意志，各尽其责，各尽其能，群策群力，一致抱定牺牲奋斗精神。以此抗日，则日必为所摧。而况日本政权，操纵于军阀之手，基本脆弱，终必崩溃。驱除日本帝国主义之侵侮，非特还我河山，亦且解除日本民众之痛苦。日本不乏明达之士，如有竭诚来归，定当欢迎，纯良侨民，亦复加以保护。抵抗暴日，正所以求世界之和平，张扬国联之威信，伸国家之正谊，争民族这生存，望我同胞，其速兴起。
振武半生戎马，醉心革命，生死久置于度外，权利更何于究心。惟念国亡无日，不忍不尽匹夫有责之义，益以同志之敦促，部属之推情，友朋之责望，不揣譪陋，爰集我军于绵山，誓师援热，就抗日救国军总指挥之职。受命之日，即以身许国之时，以驱除暴日为目的，以收复国土为职志。
我至亲爱之将士，患难相从，甘苦与共，军行所至，纪律恪遵，不得扰及民间一草一木。有纯洁之思想，无丝毫之野心，以高尚之人格，大好之身手，与日寇作殊死战。本诸良心血性，救危亡之国，解倒悬之民，碎骨粉身，义无反顾，成败利钝，在所不计。
尚希全国人士，予以援助，加以训导。振武不敏，谨当领受，耿耿愚忱，诸希原谅。
抗日救国军总指挥方振武叩。

在装备恶劣、给养不足的极端困难条件下，抗日同盟军经过浴血奋战，相继收复宝昌、清源、多伦、商都、张北等失地。将日伪军逐出察哈尔省，共毙、伤日军1000 余人，俘数百人，是为“九·一八”事变以来，中国人民抗日首次空前的大捷。捷报传出，举国振奋。在全国人民的拥护和支持下，抗日同盟军的抗日情绪更加高涨。
可惜如此“非法抗日”自然既不见容于日寇，也不见容于彼时的民国政府。最终在日寇和老蒋的双面包围下，彻底剿灭，方振武只能离国。至此，皖军彻底消失在全面抗战的前夜。
1937年卢沟桥事变爆发，方振武至意大利返回国内准备参与抗战，结果刚一入境，就遭驱逐。1941年太平洋战争爆发，方振武再次返回国内准备参与抗战，这一次方振武刚一入境就遭特务暗杀。

在大多数人的常识中，安徽在直皖战争后就再无军阀，但这是错误的。在经过淮军和皖系两大堪称国防军级别的武装军阀合计近60年的历史，即便直皖战争后，皖系退出历史主舞台，依然还是具有一定的影响力，像1924年的江浙战争就是皖系旧部试图重振旗鼓发起的战争，这是因为皖系长期把持大多数的督军，导致全国各地堪称遍地皖系余孽，像方振武这种在各大地方军阀担任将领的安徽人简直数不胜数，总是试图让皖系死灰复燃，有点类似于慕容氏总是试图重建大燕。
而方振武无疑是最接近让皖军复兴的一位，他的部队几乎只招募安徽人，刚起兵时选择从安徽赶到五原加入冯玉祥，也是因为冯玉祥祖上出自保定练兵的淮军。在西安围城后，迅速脱离西北军，加入北伐军攻克济南，作为济南卫戍军，方振武拒绝执行老蒋的不抵抗命令，选择反击，虽然没有给日军造成什么损失，也没有改变济南惨案的发生，但敢于向日军开炮这一举动，依然让方振武及其麾下的皖军在全国名声大噪。越来越多的爱国志士选择来安徽加入皖军，这一时期是皖军最有机会复兴的时期。可惜老蒋是无法坐视南京家门口的安徽出现这样一支不听自己话，有实力且有传承性的地方部队，立刻连最热衷的反共都停止了，集中精力对付方振武。在方振武被色诱到南京遭软禁，中央军出兵安徽镇压皖军兵变后，皖军残部再次展现了强大了意志力，他们选择跑到山西，投靠原段祺瑞学生阎锡山的晋绥军，并在山西介休驻扎，最终在方振武出狱后，加入方振武组建的抗日同盟军，在抗日同盟军失败后，作为独立的皖军才算彻底结束。

嫡孙女陈方安生，也是个名人。