退，孫連仲將軍親自下令守城的部隊，即使全員戰死，也絕對不能撤退。同時他也將司令部移往前線，表示必要時自己與司令部也將投入戰場作戰。
正當中日兩軍在臺兒莊進行陣地爭奪的殊死戰之時，在臺兒莊北部外圍的戰線上，正是湯恩伯部伺機而動的機會，他眼見磯谷把日軍一波波的投入臺兒莊戰場，正是李宗仁所期待的口袋戰術運作。湯恩伯的部隊就是負責收緊口袋，切斷日軍補給線的主力，只要日軍補給線一旦遭到切斷，所有在臺兒莊作戰的華軍，立刻就會蜂湧而出的進行裡外合擊，準備把日軍予以圍殲。三月二十八日，湯恩伯下令部隊開始對深入臺兒莊的日軍，進行合圍。直到這時候，磯谷廉介才大驚失色地發現，自己的部隊已經深陷華軍的包圍之中，在臺兒莊附近的陣地，華軍攻勢異常的勇猛，日軍部隊已遭華軍的分割攻擊，情況對於日方非常的不妙。在這種危急的狀況下，磯谷只有向華北方面軍發出求救的電文，華北方面軍是絕對沒有想到南侵的日軍，在大膽的越過禁制線之後，無論是左右兩翼的部隊，竟然雙雙的都遭到敗仗的打擊。而日軍大本營更是對於華北方面軍不聽號令，深入華軍陣地，遭到包圍而感到震怒，但是卻不得不追認事實，要設法支援深入華軍陣地的日軍。
先前在右翼板垣的第五師團部隊，敗退到莒縣，在得到酒井旅團的支援，正準備向臨沂進行反攻，同時由於李宗仁低估日軍在右翼的威脅，突在三月二十日，抽調張自忠部向東支援臺兒莊戰鬥。
當張自忠部隊剛剛向東調走，日軍的板垣師團就立刻反撲臨沂，差點選潰華軍陣地，張自忠只有發揮在戰場的獨斷指揮判斷，直接向軍委會請示，而又將部隊緊急回防臨沂。中日雙方的軍隊正在臨沂打成難解難分之際，日本另外的援軍本支隊由青島趕到，板垣認為這是報仇良機，準備非在臨沂大破張自忠部不可。但是這時在左翼磯谷第十師團已經面臨被圍殲的危機，因此日本華北方面軍越級直接指揮本支隊，命其不得投入臨沂作戰，立刻要以全速向西轉進，以解救磯谷的部隊，板垣力爭無效，三月二十九日，本支隊奉令以急行軍方式脫離臨沂向西轉，經向城朝臺兒莊陣地急攻，日軍一下子就衝到湯恩伯部的側背，這下子差點把湯恩伯部給反包圍起來。因此湯恩伯當機立斷地重新開啟口袋，命令五十二軍向東移動，讓本支隊進入臺兒莊戰場。由於
本支隊奉十萬火急的軍命救援磯谷，沒有注意到湯恩伯部的移動，以為自己已經打通磯谷部受困的危機。受困的日軍在得到支援之後，立刻發動逆襲，臺兒莊各處陣地都遭到日軍強烈的反攻，孫連仲部陷入苦戰之中。
李宗仁在四月七日下令所有參戰的華軍，掌握日軍潰退的戰機，全力反擊掃蕩。一時之間在魯南地區，華軍是四面合擊，日軍是拼命地奔逃，日軍死亡的人數超過一萬六千人，是日本皇軍自明治維新成軍以來，在戰場上最大的一場敗仗。
24。6 徐州會戰
日軍在臺兒莊與臨沂所遭到的挫敗，不但震動了華北方面軍，更讓日本的大本營感到震驚。日軍大本營根本沒有料到華軍竟然能在戰局最為低迷的時刻，會如此快速的凝聚戰力，對日軍展開誘敵深入的包圍作戰，而且獲得如此優異的戰果。毫無疑問的，日本皇軍終於遭到建軍以來的第一場重大的敗仗。這時候，日軍大本營已經無法再考慮戰略上深入與分散的問題了，日軍必須立刻設法擊敗華軍，以挽回「皇軍無敵」的聲譽。
這時候，日軍大本營已經無法再考慮戰略上深入與分散的問題了，日軍必須立刻設法擊敗華軍，以挽回「皇軍無敵」的聲譽。同時日軍大本營掌握到中國正在將超過六十個師的部隊，源源投入徐州戰場的情報。這是蔣介石是希望李宗仁能夠掌握勝利的戰機，擴大戰果。因此日軍大本營匆促的在一九三八年四月七日決定，下令在中國的所有日軍部隊，不惜一切代價，發動徐州會戰，一定要在徐州捕捉到華軍主力，予以圍殲。
日大本營以八十號大陸命，發出徐州會戰的作戰命令，動員華北方面軍、華中派遣軍的主力，投入這場戰鬥。同時還下令關東軍派軍支援，由於華北方面軍司令官寺內壽一大將，與華中派遣軍俊六大將的位階平行，誰也不會接受對方的指揮，因此只有緊急派遣大本營的作戰部長橋本群少將，率領參謀本部的參謀軍官，在濟南成立大本營派遣班，組織包括華北與華中日軍的參謀軍官，進行徐州會戰的作戰協調工作。
當然負責徐州會戰的日軍，是由華北方面軍擔任主力攻擊，由於蔣介石同時在山西南部發動華軍的牽制