為調動胡宗南集團的主力北上，以策應陳賡、謝富治縱隊南渡黃河，挺進豫西；並相機奪取榆林戰略要點，以取得兵員、物資補充，鞏固解放軍的後方，西北野戰軍前委和彭德懷遵照中央軍委的決定，部署進攻榆林。彭德懷對幹部講：毛主席說過，這裡是戰略牽制區，要把蔣介石的戰略預備隊牽在這裡。我們就是要把敵人拖住在陝北，不讓他走。我們拖他，毛主席、黨中央也在這裡拖住他，胡宗南的部隊就走不了。
7月30日，彭德懷指揮西北野戰軍由大、小理河向榆林開進。8月6日，對榆林外圍進行攻擊。到7日，肅清了敵軍外圍據點，但攻城戰鬥卻遇到了很大的困難。
榆林是國民黨政府“北平行轅張垣綏靖公署晉陝綏邊區總部”的所在地，西與寧馬集團，南與胡宗南集團形成特角之勢，北與綏遠傅作義相依，是綏遠、陝西的重要門戶。有“晉陝綏邊區總部”總司令鄧寶珊部第二十二軍、胡宗南的一個旅及地方團隊1。5萬多人守備。
蔣介石得悉西北野戰軍圍攻榆林，認為如榆林不保，則寧夏孤立；胡宗南一旦失去北面的作戰配合，必將影響整個西北戰局。即令榆林守軍堅守待援，急調在安塞、保安地區的胡宗南主力整編第一、第二十九軍共8個旅，分兩路向綏德、霞縣方向急進。另以鍾松的整編第三十六師組成援榆件陝速兵團“，輕裝日夜兼程，限於11日進抵榆林，路上靠空投和搶糧補給。
彭德懷獲悉援敵急速前進後，在8月9日向中央軍委請示：榆林城堅，東、北兩面沙漠，西、南兩面水坑水道，不易進行攻城。現鍾松增援甚急，決以兩個旅繼續圍城，集中6個旅先殲滅援軍再攻城。當天，中央軍委同意以一部圍城，主力先打鐘松後打榆林。隨後野戰軍得悉整編第三十六師在8月9日進抵距榆林320裡之龍州堡，10日繼續向橫山前進。於是彭德懷決心爭取先攻克榆林，而後再打援。8月10日和11日，西北野戰軍對榆林進行兩次爆破與強攻，由於野戰軍缺少炮火的有力支援和周密的組織準備，攻擊均未能奏效。中央軍委在11日來電：榆林非急攻可下，而鍾松仍有可能迅速增援。似宜決心暫停攻城，集結7個旅打鐘松。
鍾松很狡猾，他率整編二十六師走長城外沙漠地馳援，繞過西北野戰軍阻援部隊，8月11日已進抵橫山以北地區。敵軍靠攏，野戰軍圍城打援己不可能。為爭取主動，另行尋機殲敵，彭德懷決定12日撤離榆林。有的指揮員要求再攻一次，彭德懷斬釘截鐵地說：“說不打就不打，再有一個鐘頭能打下也不打了。再打下去就要被動，撤出來是主動的。撤出去，打的機會有的是，還可以打援兵。問題不在鄧（寶珊），而在胡（宗南）。我們要放長線釣大魚。把敵人來回拖，找準時機再釣他上來。”
10月21日，彭德懷總結說：打榆林，戰役目的是引誘敵人北過無定河，給陳、謝渡河南進造成有利形勢。榆林雖未打下，但吸引敵人北進目的是達到了，此役是勝利了。
從榆林撤圍後，中央軍委指示西北野戰軍在榆林、米脂間休整待機，隔斷劉裁、鍾松兩部，吸引該敵，以利陳賡、謝富治集團行動。所以，彭德懷把主力集結在榆林東南、米脂西北地區。為了保障後方機關安全，並進一步迷惑敵人，誘使胡宗南在指揮上再犯錯誤，中共西北局和各後方機關根據中央軍委指示，從霞（佳）縣移至黃河以東，陝甘寧晉綏聯防司令部的一些電臺也過了河。同時以一部兵力掩護，顯示大軍將要過河的樣子。胡軍果然又上鉤。根據其電臺測向及偵察報告，說西北共軍正“倉惶逃竄”；還說什麼共軍到了佳縣已經彈盡糧絕，把大炮都埋了。胡宗南斷定西北野戰軍主力將渡河東去，嚴令各軍“迅速追擊，勿失此千載良機”。令劉裁率5個旅向佳縣急速前進，於8月16日進到綏德義合鎮地區；又令鍾松率整編三十六師由榆林南下，與北進主力會合。胡宗南的意圖是：“迫敵於兩河（黃河、無定河）之間決戰”，在榆林、米脂、佳縣三角地區殲滅西北野戰軍。
鍾松的整編三十六師，是胡宗南部進攻陝北的主力師之一。自吹：“共軍可以吃掉別的軍隊，就是吃不掉三十六師。”鍾松自恃援榆有功，異常驕傲，聲言要“一戰結束陝北問題”13日進入榆林城，14日即馬不停蹄地率兩個旅經歸德堡南下，16日到達鎮川堡。
彭德懷對這個整編三十六師特別“關注”，下令準確偵察其編制、兵員實數和輕裝程度；又部署部隊嚴密監視它和劉裁部的行動方向，將情況隨時向他報告。他說：“決心是建築在準確掌握情況的基礎之上。”現在，他