這時，粟裕得到訊息說：“蔣介石已屢下嚴令給劉峙，劉峙再不敢陽奉陰違，督令邱、黃兵團火速前進。我阻援前哨陣地今天即有可能與敵軍先頭部隊接觸。”遂下令：“通知打援部隊做好準備，迎擊南援之敵。”
24日下午，解放軍攻城部隊全部進城，進入巷戰到搜尋，國民黨軍已潰不成軍。部隊攻入設在商埠區山東銀行大樓的王耀武綏靖司令部內，守大樓的王耀武的總預備隊垂死抵抗，解放軍戰士冒著敵軍空中和地面火力，奮不顧身，與守敵展開了逐樓、逐層、逐屋的搏殺。戰士們高呼著“打進濟南府，活捉王耀武”的口號，勇猛衝擊。
王耀武聽到喊聲，知道大勢已去，把指揮權交給他的參謀長羅辛理後，帶領副官、衛從從地道化裝成商人潛逃，逃至壽光縣境即被解放軍活捉。
24日黃昏，華野攻城部隊經過8 晝夜的連續作戰，終於拿下濟南城，殲敵14。4萬千餘人（包括兩萬起義者），俘獲活捉國民黨軍第2 綏靖區司令官王耀武、副司令官牟中位等將領23名，繳獲大量裝備和軍用物資。
攻克濟南的捷報傳到西柏坡，毛澤東、周恩來、劉少奇、朱德和任弼時非常興奮，認為濟南戰役的勝利證明，“任何一個國民黨城市都無法抵禦人民解放軍的攻擊了。濟南戰役揭開了國共雙方戰略決戰的序幕。”