為了力促敵人放下武器、和平解放太原，減少人員生命財產損失，太原前線司令部連續釋出了《告困守太原的蔣閻軍官兵書》、《最後警告閻錫山書》。但是太原城的敵人，不但不聽勸告，反而在11日早上向解放軍陣地發炮，並在廣播中宣稱“堅強意志，奮鬥到底”。
為了再給太原守敵一次機會，太原前線司令部當天下午再給太原守敵送去《最後通牒》，同時命令部隊完成攻城的各種準備。
4 月14日，徐向前和周士第、羅瑞卿致電軍委提出：敵方對我們的最後通牒並無迴音，而封鎖更嚴，我們再送信入城，亦不能進去。敵近日調整部署，加強戰備，廣播中仍宣傳要堅決抵抗。我炮兵增加，均已進入陣地，偵察及各種準備工作已完成，按目前條件，爭取在外圍切斷、殲敵幾個師，而後乘勝攻城，則太原之敵可能容易就範。如16日南京談判無大效果，可否提前攻擊太原。
由於國民黨反動派企圖以和談為煙幕，拖延時間扼守長江天險，造成“南北分治”的陰謀已充分暴露，毛澤東主席於4 月17日給徐向前覆電：“何時發起打太原為有利，即可動手打太原，不受任何約束。”
太原前線總前委當即決定，按照軍委批准的作戰方案，20日開始對太原發起總攻。
此時的太原守敵，在我軍事攻擊和政治瓦解下，已成驚弓之鳥。但孫楚、王靖國仍想負隅頑抗，還印發閻錫山從南京發來的公開文告，其中說：“保衛太原之戰，關係國際視聽，你們能參加這個戰爭，真是榮幸。”閻錫山要求所有軍政要員，“本成功成仁的決心，誓死保衛太原，以待第三次世界大戰到來。”
但閻錫山想得太天真了！
4 月20日凌晨，解放軍開始發起了對太原的總攻。十九兵團由南、二十兵團由北、十八兵團由東（主攻方向），數十支攻擊部隊先後突破敵前沿，繼以長驅直人，猛烈向縱深發展。至22日晚，全部掃清城牆以外的守敵。
24日晨5 時半，1300多門火炮從四面八方對太原城轟擊。在3 個兵團和1 個炮兵師及地方部隊的絕對優勢兵力的突擊下，太原守敵土崩瓦解。山西“閻王”反動統治宣告結束。
在對太原發勸總攻中，彭德懷協助徐向前等人做了大量工作。
徐向前後來回憶說：“彭老總留在太原前線指揮作戰後，為避免影響軍心，那時廠命令、寫報告，仍用我的名義簽署，實際上是彭老總在挑擔子。他新來乍到，對敵我情況不熟悉，但慨然允諾，勇挑重擔，實在難得。”
4 月25日，毛主席致電徐向前並告彭德懷：十八及十九兵團改隸第一野戰軍建制，爾後行動整訓及補給等統聽彭德懷同志指揮區處。
同日，毛澤東覆電彭德懷：同意你於五月初回陝，在回陝前請對十八、十九兩兵團的部署加以確定，而後該兩兵團即由你直接指揮。
此後，第十八、十九兵團在彭總指揮下，積極準備由晉入陝，參加消滅胡宗南和馬步芳、馬鴻逵等國民黨軍隊，解放大西北的作戰。同時與兩兵團一起入陝歸建的，還有第一野戰軍第七軍和第一軍三師、第三軍八師，共20餘萬人。
第十八兵團，周士第任司令員兼政治委員，王新亭、陳漫遠任副司令員，王新亭兼副政治委員，陳漫遠兼參謀長，胡耀邦任政治部主任。下轄第六十軍、第六十一軍、第六十二軍。
第六十軍，張祖諒任軍長，袁子欽任政治委員，白天任副軍長，桂紹彬任副政治委員，鄧士俊任參謀長，周仲英任政治部主任。下轄第一七八師（師長溫先星，政治委員劉聚奎）、第一七九師（師長賈定基，政治委員蕭新春）、第一八○師（師長鄭其貴，政治委員康烈功）。軍長張祖諒是河南省商城縣人。 1931年加入紅軍，曾擔任過紅三十一軍保衛科長、晉冀魯豫軍區第十九軍分割槽司令、華北軍區第八縱隊參謀長和副司令員。
第六十一軍，韋傑在軍長，徐子榮任政治委員，郭林祥任副政治委員兼政治部主任，胡正平任參謀長。軍轄第一八一師（師長王誠漢，政治委員張春森）、第一八二師（師長王海東，政治委員王貴德）、第一八三師（師長鍾發生，政治委員楊紹曾）。軍長韋傑是壯族人，原籍廣西東蘭縣。 1929 年參加紅軍。曾任紅十五軍團第七十四師師長、八路軍一一五師六八八團團長、八路軍一二九師新編第一旅旅長、華北軍區第十四縱隊司令員。
第六十二軍，劉忠任軍長，魯瑞林任政治委員，方升普任副軍長，熊奎任參謀長，高德西任政治部主任。