法軍逼近長牆主陣地並開始攀爬長牆的危急時刻，年近七十的老將馮子材大吼一聲，首先開啟柵門，大呼殺出，身先士卒的衝向敵陣！
壯哉！只見馮老將軍手持長矛，長鬚飄飄，奮勇衝出，果然是寶刀不老，英雄不減當年！其他官兵見狀，人人感奮，紛紛拿起武器勇猛的衝向法軍陣地。
霎時間，只聞關前隘裡，殺聲震天，清軍和法軍捉對廝殺，在槍林彈雨中，不斷的有人倒下去，又不斷有人爬起來，卻沒有一個人退縮。肉搏戰裡，清軍將士人人以死報國，奮勇拼殺。在馮子材老將英勇精神的感召下，中華遍地是英雄，愛國官兵們個個殺紅了眼，有力的打退了法軍一波又一波的猖狂進攻。
與此同時，王德榜在油隘的清軍出擊了法軍運送軍火的馱馬隊，切斷了法軍的糧械供應。在關前隘裡展開激戰的時候，東嶺炮臺也形成了拉鋸戰，清軍爭先攀登，三面圍攻，奪回了已被法軍佔領的小青山，重新控制了兩面高山，並將奪取的炮口對準山腰的法軍，法兵見勢大恐，紛紛從山上飛奔逃命。
攻下週圍炮臺後，清軍的後援部隊源源趕到，而法軍的增援部隊和彈藥給養被清軍截擊，法國人因得不到及時補充而陷入困境，士氣下降，鎮南關的局勢瞬間發生了微妙的變化。馮子材見機不可失，便立刻指揮清軍發起了聲勢浩大、排山倒海般的反攻。
事先埋伏好的大刀隊在近身肉搏戰中發揮了重要作用。在漫天的刀光血影下，直殺得法國兵心驚肉跳，屍橫遍野。攻入關前隘的法軍在清軍的衝擊下，撤離長牆，隨後被清軍截為四股，壓到田丘裡且戰且退，狼狽逃竄。清軍將士乘勝追擊，王孝棋部將潘瀛更是殺得性起，脫去上衣，光著膀子率隊持刀衝進敵陣。而此時的法軍彈盡糧絕，終於支撐不住，指揮官尼格里見大勢已去，急忙率領殘部狼狽潰逃。馮子材率軍乘勝追擊，追出關外二十餘里，直至深夜才暫且收兵。
戰後，法國兵仍舊心有餘悸的回憶說，“在我們的腳下，敵人從地上的一切縫隙裡鑽出來，手持短刀，開始了可怕的混戰。他們的人數比我們的多十倍、二十倍，所有的軍官和士兵都被圍住或被俘虜”，“中國軍的號筒，憤怒的響起‘前進！’的命令，從所有的堡壘，從所有的天邊各處，煙雲一般的敵人展開旗幟衝來，發出似乎把槍炮聲都蓋住的喊殺聲。”（鄭彭年：《甲申甲午風雲》）
這真是法國兵的惡夢。經過這兩天的激戰，法軍全線崩潰，狼狽的逃出鎮南關，退到文淵。鎮南關一役，清軍取得大勝，共擊斃法軍精銳上千人，繳獲槍枝彈藥不計其數。法國人在戰後也不得不承認，自他們入侵中國以來，“從未受此大創”。
鎮南關大捷和當地老百姓的支援也是分不開的。在激戰之時，當地的壯、瑤、白、彝、漢等族人民也紛紛趕來助戰，為清軍運送糧食等補給，提供了堅強的後勤保障。越南北部人民聽說馮子材大戰法國侵略者，也建立忠義軍五個民團共兩萬餘人在關外配合清軍作戰，對法軍起到了很大的牽制作用。
為擴大戰果，馮子材決定率軍出關，乘勝追擊，不給法軍以喘息的機會。3月26日，清軍追擊到文淵，驚魂未定的法軍聽到清軍攻來的訊息後，撒開腳丫就跑。3月29日，清軍克諒山，並在戰鬥中重傷了法軍指揮官尼格里。在慌亂當中，法軍甚至將三十八門大炮和大量銀元棄入淇江，狼狽南逃。
3月30日，清軍克谷松，次日清軍再克北黎，並收復了觀音橋。此時的法軍，猶如驚弓之鳥，一口氣逃到郎甲、船頭一帶。在整個東線陸路戰場上，中方出現了空前的大好形勢。
3月23日到24日，也就是在鎮南關大捷的幾乎同時，西線戰場上也取得了重大勝利，當時法軍將近六千人前來攻打臨洮城，守城的黑旗軍依託工事，佈下地雷陣頑強抵抗，最後和來援的清軍內外夾擊，在臨洮大敗法軍，殺敵上千，取得臨洮大捷。緊接著，清軍和黑旗軍又乘勝收復了廣威府、黃岡屯、老社等十幾個州縣。
至此，越南北部戰場的敵我形勢已經全然改觀，勝利的天平開始倒向了清軍一邊。在這大好形勢下，馮子材決定於三月初親率東線全軍進攻北寧、河內，將法國侵略軍徹底趕出越南北部地區。但就在這時，清廷突然下詔停戰撤兵，前線將士一片愕然，乘勝追擊的作戰計劃也只能告罷。
而這時，法國的內政也起了大變化。當法軍在鎮南關和諒山慘敗的訊息傳到巴黎後，引起法國政局的極大震動。好戰的茹費理內閣在國內本來就不得人心，法軍在越南戰場上的失敗更是火上澆油，成了壓死駱駝的最後一