作戰，使得日本華北方面軍在山西的部隊一再地告急，無法抽調更多的部隊參戰，因此由關東軍抽調的部隊，直接支援華北方面軍的徐州會戰。華北方面軍立即整補第五與第十師團部隊，在臺兒莊北方附近的陣地，進行誘敵拘束的作戰，以吸引華軍的繼續攻擊。
然後日軍以主力第十八師團，配合關東軍的第三、十三兩個混成旅團的精銳，沿津浦路的濟寧南下，進攻徐州西部。並以第一軍的第十四師團，由荷澤渡過黃河，準備在遠方截斷隴海鐵路向西的交通，在一一四師團抵達戰場之後，立刻接防第十師團，由第十師團參加第十八師團圍堵華軍西方撤退的通路。大本營認為徐州是華北方面軍的戰區，因此規劃由華北方面軍的部隊攻佔徐州。
李宗仁此時缺乏旺盛的企圖心，不敢利用稍縱即逝的戰機，運用優勢的兵力，對日軍殘部，進行加強的猛烈打擊而華中派遣軍則負責由南向北進攻，第十三與第九師團強渡淮河，北攻徐州，主力是指向經由宿縣，而撲向徐州西方的隴海鐵路要站碭山，準備和華北方面軍的主力在此會師，以達成切斷華軍西撤通路、在徐州附近圍殲大量華軍的戰略目標，而華中派遣軍為了爭功，特別又增派第三師團以及兩個支隊北上，直逼徐州，此外，日軍又出動陸戰隊在登陸連雲港，日軍對於徐州，進行了三面包圍，並且急攻徐州的西部，日軍的作戰計劃是非常的明顯，就是要以南北夾擊的作戰方式，將作戰的重點放在截斷華軍與西方連絡的交通補給線，然後在徐州西方，成功的圍殲蔣介石剛剛完成整補的華軍。
蔣介石對於華軍在徐州的作戰，幾乎是動員一切支援的力量，放手給李宗仁運作指揮。在華軍不負眾望的取得臺兒莊作戰勝利之時，蔣介石認為這正是掌握戰機，擴大痛擊日軍的機會，因此將手邊能夠用上的部隊，都調到徐州戰場，在最高峰時達到三十四個軍，八十九個師，總兵力超過五十五萬人。蔣介石並且一再的去電，要求李宗仁，大膽用兵，徹底掃蕩戰場，並且攻擊受困待援的日軍，打擊前來援救的日軍先頭部隊。
但是此時李宗仁卻一味的敷衍蔣介石，將五十萬大軍在徐州附近像排兵棋般的安頓起來，既無強烈攻擊的企圖，也無認真掃蕩的動作，李宗仁此時缺乏旺盛的企圖心＇1＇，不敢利用稍縱即逝的戰機，運用優勢的兵力，對日軍殘部，進行加強的猛烈打擊，一直等到日本的大軍源源到達徐州外圍，對華軍形成南北夾擊的態勢，李宗仁在五月十七日才一聲令下，整個司令部與所有華軍全部西撤。此時掩護撤退的是由張自忠與劉汝明部擔負重任，劉汝明部在蕭縣一帶伏擊日軍第九師團的北上，對日軍造成重大傷亡。由於華軍掩護得法，撤退的決斷又十分的清楚，所以大軍能夠順利的退出日軍的包圍。五月十九日，日軍的華中派遣軍的十三師團部隊，首先攻入徐州空城，又令一心想爭功的華北方面軍大感挫折。
李宗仁是獨斷決定由徐州撤退之後，才告知蔣介石這個決定的，而蔣介石仍要求李宗仁，至少能夠率軍從徐州由東向西攻擊日軍，蔣則親自到鄭州指揮部隊，由河南向東攻擊日軍。但是李宗仁根本不理會蔣介石的命令，只下令全速的撤軍，日軍雖然佈下天羅地網，要想在徐州西方的附近，捕捉華軍主力，但日軍判斷華軍的撤退路線，只能經隴海鐵路向西退卻，因此南北進兵的日軍主力會師計劃，都是以截斷隴海鐵路，防止華軍向西方撤退為首要目標。但是當時的華軍多數是由西南方向，繞過日軍的背後，以化整為零的方式，退出戰場，日軍雖然攻擊到一些分散的隊伍，但是卻沒有包圍到華軍的主力部隊，日軍的整個徐州會戰攻擊，可以說是撲了個空。
雖然日軍沒有在徐州附近完全合圍華軍的作戰，但是日軍卻沒有放棄這個企圖，日軍的第十四師團渡過黃河的目的，就是在隴海鐵路的更西段，對逃出徐州包圍圈的華軍，進行再攻擊。
但是蔣介石在接應李宗仁部隊西撤的作戰中，也有準備，當時蔣介石特別把中國唯一的一支德式裝甲機械化二○○師，以及二七軍桂永清部，都調到開封以東，交給第一兵團指揮官薛嶽掌控＇2＇。蔣介石原本希望李宗仁能夠動用充裕的兵力，由東向西，攻擊日軍包圍圈的側後方，而由薛嶽指揮大軍由西往東攻擊，兩軍能夠成功的會師。
附註：
＇1＇ 李宗仁的坐失良機，據說令當時的德國軍事顧問福爾肯豪森急的幾乎要「扯斷了頭髮」。
＇2＇ 薛嶽的能力此時已被看好與器重，正成為華軍在戰場上指揮大部隊作戰的一顆新星。
＇3＇ 薛嶽亦要求蔣介