华东野战军是中国五大野战军中的一支强大部队（包括晋察冀野战军），在激烈的战斗中表现尤为卓越。每个纵队都有其独特的战斗风格，有的擅长进行阻击战，有的则在攻坚战中表现出色。

在解放战争的早期阶段，由于部队缺乏重型武器，进行攻坚战就显得格外重要，而爆破技术便成为了关键。在这一领域，华野的第三纵队表现最为出众，他们的卓越能力让敌人对他们的威慑力深感不安。三纵的历史可以追溯到抗日战争时期的山东军区第8师，很多战士都曾是一线矿工，凭借对炸药的熟练运用，他们在抗日战争及解放战争早期为华东战场做出了巨大贡献。

1947年初，华东野战军成立，第三纵队的组成包括了原8师、鲁南第10师和滨海警备旅，由何以祥担任司令员，参与了莱芜战役和孟良崮战役。在莱芜战役中，三纵未随主力北上与敌交锋，而是选择与其他部队协同，制约和阻击南来的敌军。他们灵活采用边打边撤的策略，以空间换取时间，成功拖延了敌人的进攻。

陈诚部队被三纵等部队所困扰，给予了主力部队消灭李仙洲部队的宝贵时间。而几个月后，在鲁南战役中，一纵、三纵和十纵联合攻占泰安，彻底消灭了敌人的72师。三个纵队采取围攻的战术，10纵围攻泰安，试图吸引敌人的增援，而1纵和3纵则在泰安以南两侧形成夹击的态势，给敌人施压。当10纵进攻时，敌方没有增援，指挥部遂决定调动3纵加入进攻。在这场战斗中，8师如同利剑般刺入城西关，成功打开了突破口，战斗结束后，获得了嘉奖。

在孟良崮战役中，3纵没有为主攻手，而是以阻击的姿态对抗敌军的第5军。随着七月的到来，华野开始分兵作战，3纵、8纵和10纵等部队在鲁西南积极配合刘邓大军展开行动。在外线作战时，主要集中于对济宁的攻坚战，取得了显著的胜利，他们在城市攻坚战中的爆破技术得到了进一步发挥，积累了越来越多的实战经验。

此后，3纵又参与了沙土集歼灭战，成功歼灭了敌方的57师，整个战斗仅用了6小时。1948年初，何以祥因健康原因暂时离开了3纵，前往后方恢复，孙继先接任了纵队的指挥。在后方的恢复期间，何以祥得知3纵在洛阳战役和开封战役中的出色表现，心中倍感欣慰。

1949年，随着全军的统一改编，经过治疗的何以祥重回前线，但此时纵队已改编为军，而他并没有担任军长一职。上级为他安排了兵团参谋长的角色，从职务上看，与军长相当，但实际职责却有着显著的差异，一个在后方管理工作，一个则是在前线指挥作战。