當第十一、十五軍冒雨疾進，跋山涉水，穿過了大別山區，將達江邊時，劉伯承於3月24日下達了《關於渡江戰術注意事項的指示》，對實施渡江作戰規定了十項重要的戰術原則。其中要求先遣部隊“首先要把敵人在江北的掩護陣地掃除，直達江邊，才能進一步作切實的準備”。“在掃除敵江北橋頭堡、支撐點時，特別對防礙我主要渡江點之敵，力求截斷其退路，割裂其部署，予以速殲，不使其退守江南，增加以後的抵抗力”。為了保證先遣部隊動作的突然性，他還佈下了一系列的疑兵計：在桐柏、江漢軍區部隊佯攻的同時，電令剛剛配屬第二野戰軍的第四野戰軍第十二兵團直出信陽，威逼平漢路南段，加大白崇禧集團的壓力；令行經麻城、羅田的右路軍第四兵團故意暴露行軍企圖，製造將出團風波江，抄襲武漢的假象。白崇禧果然懾於鄂東空虛、九江受威脅，急將安慶守軍第四十六軍主力經宿松撤往黃梅、九江，增強該地防務。僅留下第一七四師附一個團退縮安慶及其周圍要點固守。
這時，第十一軍就勢進逼安慶及其東西沿江一線，控制渡口，徵集船隻，並作攻擊安慶的準備。第三兵團率第十、十二兩軍即迅速跟進至桐城以南地區。
第十五軍也進展順利，連克英山、羅田、太湖、望江諸城，先頭第四十五師以迅速勇猛的動作，一舉攻佔華陽鎮及其附近的敵橋頭陣地，全殲敵第六十八軍留守部隊。於是，第二野戰軍完全佔領了長江北岸的預定地域，開始轉入直接渡江的準備工作。
為了集中力量進行渡江作戰，劉伯承適時改變了攻取安慶的部署。安慶這個突出於長江北岸的歷史名城，是著名的軍事重鎮，它曾經有過多次阻礙或牽制北方軍隊南渡長江的記錄。劉伯承審時度勢，認為當前人民解放軍百萬雄師陳兵千里江岸，國民黨軍防不勝防，個別孤立據點已起不到障礙作用了。但是安慶擅城堅濠深之利，攻擊起來必然增加傷亡。因此，他命令第三兵團不加攻擊，只作監視、封鎖。
在這前後，劉伯承的精力轉入以戰役、戰術的組織領導為中心的準備工作。部隊開進時，他發現部分指揮員只注意行軍進度和殲敵數字，忽略了及早著手進行各項實際的渡江準備。立即發出指示：“關於偵察，渡江器材，渡江部署戰術、技術諸問題，力求精確周密準備，尤應在行軍中至渡江前著重對部隊切實訓練渡江戰術、技術，萬勿驕惰疏忽，誤此大事。”在另外的一個電令中，他再三強調，“這是目前的重點工作，不可放鬆。”當兩個先遣軍兼程前進，第三、五兵團跟進到淮河一線時，他要求各部隊就河川湖沼地形開展渡江軍事訓練。雖然這種訓練的時間是短暫的，加上受地形條件和器材的限制，不可能收到很大的效果，但使廣大指戰員從思想上、行動上產生了一種緊迫感。透過訓練，為全軍江岸大練兵打下了基矗第二野戰軍在長江北岸的待機出發地域，湖泊沼澤連綿，是理想的水戰練兵場所。4月初，各兵團主力相繼抵達渡江出發地。劉伯承及時發出指令，要求“各部隊戰鬥準備工作必須善於蒐集船隻；善於組織部隊作戰鬥渡江的演習；善於偵察南岸敵人的防禦配備進行周密的研究，力求在寬正面同時渡江的情況下，針對敵人的弱點作出重點突擊的部署；善於組織集中的炮火以支援渡江的步兵，使其不遭到敵人船隊、炮兵和坦克的阻礙。”各部隊遵照劉伯承的指示，立即展開了全面的準備工作和熱火朝天的練兵活動。
水戰，舟楫是基本的條件。尤其在長江這樣寬闊的水面上進行大兵團作戰，沒有足夠的船隻和相應的器材，那簡直是不可想象的。國民黨軍鑑於湖口至貴池一帶，長江向南岸凸出的地形特點，著意在這裡實行嚴密的軍事控制，平毀村寨，驅逐居民，尤其將船隻劫掠一空，企圖增加人民解放軍渡江的困難。第二野戰軍先遣部隊橫掃江北守敵，攻取江岸敵軍橋頭堡後，即依照劉伯承關於“抓緊船筏及其他渡江器材的蒐集”的指示，全力投入籌集船隻的工作。他們面對村寨殘破、人煙蕭條的困難狀況，發揚人民軍隊人民子弟兵的優良傳統，訪貧問苦，救災濟困，宣傳大軍渡江對奪取全國勝利的巨大作用，很快取得了人民群眾的信任。沿江居民在短短的幾天內，就貢獻出一批預先藏匿的船隻，並提供了許多找船的線索。野戰軍主力全部到達後，根據先遣部隊的經驗，劉伯承指示各部隊普遍與中共地方組織、政權機關組成船隻管理委員會，專門負責籌集船隻的工作。經過半個月的努力，共蒐集、打撈、修補船隻1478艘，動員船工2000餘名，加緊訓練其成為渡江駕船的水手。結合水上訓練，戰士們製作出以稻草救生圈為主的