第3 兵團下轄第11、12、13軍，司令員陳錫聯、政治委員謝富治。渡江作戰後，第3 兵團進佔浙江金華、蘭溪。6 月底奉命北移，於7 月上旬進至安徽蕪湖、宣城、安慶地區整訓待命。
還在7 月中旬，劉、鄧首長即電召第3 兵團司令員、政委到南京彙報部隊的情況。在彙報過程中，鄧小平饒有興趣地聽取了陳錫聯、謝富治關於部隊中對下一步任務的各種猜測，站起來走到巨幅地圖前，用右手指著地圖說：“我軍渡江作戰後，國民黨的殘餘部隊，不管是正規軍也好，或是地方軍也好，就是把他們的後方機關人員統統加進去，也不過150 多萬人。這些敵人現在主要盤踞在中南、西南、西北和臺灣等地區，蔣介石已經無路可退了。軍委已經發出指示，命令各野戰軍按預定計劃前進。我們二野的任務是，在其他兄弟部隊配合下，進軍大西南廠”不過還要告訴同志們一點，“劉伯承接著鄧小平的話說，”由於我軍現在處於絕對的優勢，敵人呢，千方百計要避免與我決戰，以求儲存實力，等待時機，捲土重來。對待這樣的敵人，毛主席的基本方針是，實行大迂迴大包圍，先斷敵退路，再聚而殲之。“
鄧小平最後叮囑陳錫聯：“前委很快就要下達進軍西南的指示，希望你們抓緊準備，特別是要解決好少數幹部戰士不願到西南去的思想。要告訴部隊，西南是蔣介石在大陸最後的立足之地，我們絕不能讓蔣介石蹲在大陸，一定要在部隊中把‘將革命進行到底’的口號叫得響響的。”
7 月26日，第3 兵團在南京召開了為期一週的團以上幹部。會，傳達貫徹二野前委關於進軍西南的指示，進行進軍西南的動員和研究進軍作戰方案。劉伯承司令員親臨大會，作了進軍西南的動員報告。
劉伯承站在原南京國民黨政府“國大禮堂”的講臺上，那抖擻的精神、有力的揮臂動作和渾厚宏亮的聲音，顯示出一派大將軍的風采。他說：“渡江作戰後，我們二野分別集結於蕪湖、上饒及贛中地區，主要是防止帝國主義可能的武裝干涉。在這期間，青島、福州等沿海城市相繼解放，帝國主義直接進行武裝干涉的可能性已大大減小，而且我第三野戰軍的部署已調整就緒，完全能夠擔負起東南沿海的防務。因此，我們二野向西南進軍的時機成熟了。”
劉伯承講完軍委的決策和進軍西南的偉大意義之後，呷了一口茶，雙手往腰際一叉，很風趣地高聲問道：“同志們可知道蔣介石有三怕？”
於是，臺下的同志們紛紛議論起來。
劉伯承稍作停頓，然後揮了揮手，示意大家安靜，便伸出手，扳著指頭說：“蔣介石一怕我軍入關，二怕我軍渡江，三怕我軍進軍西南。眼下，我軍已入了關，也渡了江，現在又要向大西南進軍了，蔣介石在大陸上的日子不長了！”
第5 兵團下轄第16、17、18軍，司令員楊勇、政治委員蘇振華。7 月23日，接到二野前委向西南進軍的指示後，兵團黨委在江西上饒召開擴大會議。司令員楊勇對他的軍長。師長和政委們說：“渡江以後，沒有大仗可打，大家可能有些意見了吧。告訴你們，軍委的指示下來了，我們兵團將參加進軍西南作戰，屆時要解決上百萬人左右的國民黨部隊。到那時，可是又吃肉、又啃骨頭，還要喝湯，諸位可不要撐壞了！”
此時，第5 兵團部隊正駐紮在贛東北這塊老革命根據地。楊勇接著說：“贛東北，是方誌敏等同志開闢的根據地，是革命的老家。我們一定要以實際行動做好準備，用勝利來報答老區人民對中國革命的貢獻！”
7 月25日，兵團又召開團以上幹部動員大會，蘇振華政委號召全體指戰員發揚艱苦奮鬥、不怕犧牲的精神，徹底消滅盤據在西南的國民黨軍。
遵照中央軍委的指示，劉伯承、鄧小平於8 月上旬主持召開兵團司令員、政委以上的高階幹部會議，研究討論進軍西南的作戰計劃。中旬，二野作戰會議已經進入尾聲。在二野司令部作戰室的牆壁上，醒目地掛著“第二野戰軍西南作戰決心要圖”，那一個個巨大的紅藍色箭頭，簡明、扼要地顯示了敵人的兵力部署和我軍各兵團、各軍的任務。此刻，劉伯承司令員正在作總結性發言：同志們，進軍西南作戰，任務艱鉅而複雜，我們應有充分的思想準備。從幾天大家分析的情況來看，西南作戰既有不利條件，也有有利條件。其不利條件主要表現在以下幾個方面：第一，這一地區包括雲南、貴州、四川、西康、西藏五省區，面積234 萬平方公里，佔全國面積的近四分之一，與印度、尼泊爾、錫金、不丹、緬