日軍突破內長城多處隘口，進逼忻口，太原會戰將要進入艱苦階段。第一二九師必須爭取儘早到達正太路南北，擔負起側擊日軍的任務。開展晉東南的游擊戰爭，也必須趕在日軍侵佔以前，以爭先機。
經過5天的夜宿曉行，過澄城，穿合陽，10月5日，劉伯承率先遣隊到達黃河西岸的韓城縣芝川鎮。這期間，陳賡率第三八六旅於10月1日出發跟進，由政訓處主任恢復政委職務的張浩率帥後梯隊於10月2日啟程。
芝川鎮渡只是秦晉黃河的一處要津。八路軍總部和第一一五、第二○師不久前都是從這裡渡河的。劉伯承帶著參謀到渡口察看，只見河面約有5裡寬，湍急的水流夾帶著泥沙翻滾直下，發出驚天動地的咆哮聲，彷彿是一條怒不可遏的黃色巨龍。他命令參謀去找船。幾個參謀順著河岸跑了好遠，連一條船的影子也沒見著。劉伯承讓參謀去把芝川鎮的國民黨地方官找來。參謀從賭場裡找到兩個管渡口事務的官員。進得門來，這兩個官員嘴裡嘟嘟囔囔的，顯出一付很不情願的樣子。劉伯承劈頭就問：“你們這裡為什麼不備好船？”兩人支支吾吾地回答：“我們不知道貴軍今天要過河，實在抱歉。
明天一定想辦法。”
劉伯承本來就痛恨這幫作威作福、為霸一方的國民黨官吏，又見他們國難當頭，仍一味醉生夢死，不由得火冒三丈，便使勁一拍桌子，厲聲喝問：“你們認識我嗎？”
兩人不明所以，忙說：“不認識，不認識。”
“他就是國民革命軍第八路軍第一二九師師長劉伯承。”一位參謀從旁介紹。
“知道，知道。劉伯承將軍大名，我們早有耳聞，今日得見，非常榮幸。”
兩人連忙點頭哈腰地恭維著。
“啪！”劉伯承又狠狠地拍了一下桌子，聲色俱厲地說：“什麼榮幸不榮幸的，別給我來這一套。告訴你們，我們是奉了蔣委員長、閻司令長官的命令，要渡過河去晉北前線抗日的。我們大隊人馬必須明天上午全部過河，限你們兩個小時內把船給我調齊。要是貽誤了軍機大事，我就把你們兩個當漢奸論處！”
“是，是，是。我們一定照辦，一定照辦。”
船按時找來了，劉伯承連夜安排渡河。根據船隻數目和兩岸渡口的容量，他決定先遣隊分兩批過河。第一批由陳錫聯帶第七六九團兩個營先渡，餘下人員由他親自率領第二批渡。他還規定了各部隊上下船的次序，嚴令不準丟棄任何裝具器材。
一位參謀問正在指揮渡河的劉伯承：“師長，我可從來沒見你發過昨夜那麼大的火呀？”
劉伯承說：“你看到了吧，國民黨政權腐敗成這個樣子，還能不失民心？
還能不打敗仗？我在舊軍隊裡呆過，知道國民黨的作風。他們欺軟怕硬，媚上壓下，看勢頭辦事。伺況這次是故意刁難我們，嚇唬他幾下子，他就知道八路軍不是好惹的了，這就叫以其人之道，還治其人之身。”說罷，便放聲大笑起來。
一位參謀跑來報告：附近的老百姓聽說八路軍要渡河，不少人扛著羊皮筏來要求幫忙。劉伯承感慨地說：“有民如此，何愁日寇不滅？”他交待參謀：向群眾表示感謝，告訴他們船已夠用了，動員他們回去。
第一批過渡的船隻從東岸返回來了。劉伯承趕緊指揮第二批人馬渡河。
當人馬快要全部裝完的時候，劉伯承才健步上船。
船到中流，劉伯承指著兩岸聳峙的大山，對大家說：“祖國的大好河山，豈容日寇的鐵蹄來踐踏！我們出師就是要狠狠打擊他們。”
先遣隊全部渡河後，劉伯承率領部隊繼續前進。一踏上山西的大地，指戰員們有了一種新奇感。這裡山勢連綿，一座連著一座，彷彿大海里遠去的波濤，一眼望不到盡頭。居民幾乎都住窯洞，山上的依坡而建，露頭藏尾的，上圓下方的門洞沿著山邊展開，顯得錯落有致。平川裡的村落大多住戶眾多，窯洞則由人工砌成，有的多孔，有的單孔，有的磚牆磚頂，有的泥牆泥頂，顯示著主人的貧富差異。
部隊受到了山西人民群眾的熱烈歡迎。逢村過寨，人們一窩蜂地擁上來，有遞開水的，有送糖塊和油炸果子的，更有的一個勁地往指戰員的口袋裡塞著雞蛋、饅頭。一到城鎮，歡迎的規模更大，活動也有了組織。部隊經過榮河、通化和翟店等城鎮時，街道兩邊整齊地站滿了歡迎的人群，學生們手執紅紅綠綠的小旗，上面寫著“熱烈歡迎八路軍！”“誓死抗日！”“打倒日本帝國主義！”等字樣。同樣內容的口號聲此起彼伏。激越昂揚的抗