但是，清廷未能體諒他的這片苦心。吳文鎔接到文宗的詔書以後，崇綸又屢次催逼。吳文鎔不敢怠慢，嘆息道：“我已年逾六十，受國厚恩，還會怕死嗎？之所以推遲進軍，是因為部屬將士還需要選拔訓練，而且等待黔勇和湘軍水師夾擊。既然如此催逼，我也就不再等待了！”
於是，他於臘月下旬率七千人出了武昌，趕赴黃州，駐紮在城外，堵住城內的太平軍。天下大雪，吳文鎔每天行走在泥濘裡，到各營慰問將士。崇綸卻繼續使用陰招，遇事刁難，軍械、輜重和糧草，都不及時運往前線。
吳文鎔處境艱危，仍然告誡曾國藩不要輕舉妄動。他在給曾國藩的信中說：你所編練的水陸各軍，一定要等到稍有把握的時候，才可以派出來作戰。不要因為急於增援我，而輕率北上。東南大局，全靠你一個人運籌帷幄，恐怕此後沒有人能夠替補你了。我的處境，和你是不一樣的。書包 網 。 想看書來
1854年，咸豐四年（4）
吳文鎔沒有等待湖南和貴州的援軍，於2月7日揮軍進攻黃州。那一天是陰曆正月初十，太平軍在城內張燈結綵，大辦宴會，清軍出其不意地突襲，斬殺了幾百名太平軍。
但是，隨後的幾天連降大雪，凍死了不少清軍軍士。太平軍派出一支部隊，繞到吳文鎔的大營後面，在山岡上設下埋伏。
2月12日元霄節，黃州城內的太平軍大舉出動，撲向清軍。吳文鎔指揮將士力戰，都司劉富成斬殺幾名太平軍，兵勇繼後掩殺，斬殺太平軍幾十人。在三次擊敗太平軍的進攻後，太平軍大隊殺來，埋伏在清軍大營後面的太平軍突然殺出，放火燒營。清軍的十三座軍營，都被太平軍攻佔。清軍將士不顧大帥，紛紛逃走，吳文鎔下馬，向北面叩首大呼：“無以仰對聖朝！”然後投水塘而死。時年六十三歲。
太平軍乘勝攻佔漢陽。唐樹義的清軍水師，也被太平軍打敗，唐樹義落水而死。
吳文鎔死後，清廷賜祭葬，予諡“文節”，入祀昭忠祠。任命臺湧繼任湖廣總督。文宗再次下詔，催促曾國藩出兵九江，圖謀安慶，與和春、福濟會師。文宗還要重新啟用已回家侍候母親的江忠濟及江忠濬率兵與太平軍作戰。江忠濬接到旨意後，帶兵赴援廬州，跟隨和春作戰。
曾國藩知道時事更加危急，無法等到萬全之時才出兵了。他決定集結湘軍的大部分兵力，從衡州開拔。於是，他下令將湘軍的部分小營改為大營，每營從三百六十人增加到五百人。湘鄉將領率領湘鄉勇編為大營，其他湖南地方將領，各自率領家鄉的勇丁，都編為小營。
2月23日，湘軍衡州船廠和湘潭船廠製造的四百艘戰船全部完工，製造出四十艘快蟹，四十艘長龍，還有八十艘舢板。
曾國藩委託黃冕監造戰船的炮位，黃冕狠下一番功夫，製成了大型劈山炮。
湘軍水師有了戰船，也有了將士，宣告正式成立。
湘軍陸師共有五千多人，編為十三個營，前、後、左、右、中，用旗幟的顏色標示方位，由塔齊布、周鳳山、儲玟躬、林源恩、鄒世琦、鄒壽璋、楊名聲、曾國葆率領，而塔齊布為各軍的先鋒。
水師五千人，編為十營，前、後、左、右、中五營為正，另五營為副。在衡州招募的六個營，由成名標、諸殿元、楊載福、彭玉麟、鄒漢章和龍獻琛率領；在湘潭招募的四個營，由褚汝航、夏鑾、胡嘉坦和胡作霖率領。褚汝航任水師總統。水師共擁有戰船二百四十艘，坐船二百三十艘。
曾國藩把自己的指揮部設在坐船上，糧臺也設在水師。船上貯備了足夠的米、煤、鹽、油、軍械和彈藥，還攜帶著軍中所需的器物和工匠。輜重民船也配發旗幟槍炮，以助軍勢。
陸師和水師的將士，加上所有器用、工匠、米炭、雜具及員弁丁夫，共計一萬七千人，軍容空前雄壯。
羅澤南和王錱的名字，都沒有出現在出徵將士的名單裡。這是因為曾國藩不讓王錱率部隨同出征，兩人發生了爭執，駱秉章、羅澤南、郭嵩燾和劉蓉等人居中調解，得出一個折衷的結果：駱秉章全額保留王錱的軍隊，交給羅澤南統領，專門用於本省防務。曾國藩另行委派林源恩和鄒世琦等人招募丁勇，補充兵員。羅澤南因此退出東征大軍。
曾國藩於2月25日建旗出征，羅澤南和李續賓這時已在永興縣的油榨墟鎮壓了邱昌道和王大才的起義軍，迫使起義軍退往廣東。他們率部駐紮衡州，留守湖南。
在江西安福作戰時，羅澤南只有七百軍士，他與李續賓分別率領中營和右營