当日，二十六军攻占青阳港、陆家浜车站、切断了沪嘉昆段干线，由于该军进展神速，切断和俘获了大批敌军。
5月14日，二十六军进抵太仓东北、南翔镇、方泰镇及外岗镇地域。17日，二二八团在黑大宅、东六院一带与敌展开激烈争夺，阵地得而复失、失而复得。敌人在坦克的掩护下于18日利用浓雾的掩护向我发起疯狂的反冲击，我于敌浴血奋战，打退了敌人的进攻。23日，张仁初根据战场的变化，作了重新部署，以七十六、七十七师为第一梯队，七十八师为第二梯队，于20时，在友邻部队的协同下，对淞沪外围敌人发起总攻。一时间炮声隆隆，火光冲天，敌人在我猛烈进攻下拼死抵抗，不断进行反冲击，我军步炮密切配合，不断向前推进并逐渐将当面敌军压缩至塘桥一线。
24日，战事呈胶着状态。这时，十兵团叶飞司令员给张军长打来电话，张军长虽一夜未眠，但仍精神抖擞，在电话里大声喊着：“......今天拿不下塘桥，我张仁初拿头去见你......”他面容严峻，用另一部电话向七十六师高文然师长下达命令，必须组织好部队和火力，白天实施强攻拿下塘桥，支援友邻部队夺取刘行、杨行据点。张军长向上立了军令状，又给各师下达了督战令。当日16时，二十六军攻占塘桥，直逼大场飞机场。到25日，二十六军经激烈战斗攻占了国际无线电台及其周围地区，直逼上海市区，外围战斗宣告结束。

5月25日，我第三野战军对上海发起总攻，二十六军勇猛进攻势如破竹，迅速的攻占了敌军建有永备性防御工事的大场镇、大场飞机场、翟港、真如镇等要点。接着，军首长命令各攻击部队不要怕打乱建制，以小群多路追击，部队边追边打向江湾方向**，将北关、同济大学、华丰毛纺厂等处的大量守敌逐一歼灭，俘敌无数。到27日拂晓，歼敌15万余人的上海战役结束了，上海这座美丽的城市重又回到了人民的怀抱中。在上海战役中，由于二十六军攻击勇猛高效、穿插、追击迅速果断，该军三个师共歼敌4万2千余人，缴获火炮550门，坦克30辆，汽车240辆，枪2万多支，可谓战果辉煌。
27日下午，张军长带着军报记者刘庆泗乘着美式吉普车驶向江湾镇，他已经连续几天几夜没睡觉了，两眼布满血丝，嗓音有些嘶哑，但仍是神采飞扬，谈笑风生。他说：“我带你去看看咱们军的战利品，让你开开眼界。”江湾镇上，只见押送西去的俘虏群望不到尽头，缴获的枪支弹药堆积如山，火炮、车辆连绵数里。张军长在一辆崭新的美式中吉普前停下来，他让刘记者把这车带回上海军部。后来，刘庆泗在带车时夜里没看好车，被人偷去了。刘回到报社，大家都为他捏一把汗。刘记者想，这回挨勊是肯定的了，弄不好还要受处分。大家给他出主意，让他先给军长打个电话探探口气，刘庆泗紧张的拿起了电话......张军长在那边讲：“刘庆泗，新车带回来了吗？”刘庆泗一时不知如何说好，张军长在电话里叫了起来：“喂喂，怎么不讲话？”刘庆泗鼓起勇气口吃的说：“军长，新车在五角场......不知被谁家拖走了！”刘记者正等着“挨勊，”电话那边传来一阵笑声，在听了刘记者把全过程说了一遍后，张仁初说：“你赶快把丢车的事写个稿子登报，让大家都警惕，好！就这样！”报社的同志都在屏气听着，当刘庆泗放下电话后，大家都鼓起掌来。后来，张军长又见到刘记者时说：“你丢了车，登报提醒了大家，以后再没丢车，坏事变好事。”多少年以后，刘庆泗谈起这事，还感慨万分。

1949年5月底，二十六军归建第九兵团，执行上海警戒任务。二十六军部队同敌特斗争，维持秩序，恢复生产，严守三大纪律八项注意。8月3日到7日，召开第一届英模代表大会，张仁初军长和王一平政委作了报告，要求部队戒骄戒躁，再立新功。8月，二十六军解除警戒任务，移住市郊进行**台湾的军事训练（二十六军同二十军、二十三军和二十七军组成的九兵团担任攻台第一梯队）。



1950年1月24日，第三十军第八十八师划归二十六军建制。3月，进行渡海攻击的作战训练。直到9月，抗美援朝战争打响，二十六军解除**台湾的任务，和同为九兵团的二十军和二十七军一起，北上我国的东北地区开始了抗美援朝的征程......