曹操迎奉天子並討伐袁術後，力量急劇增長，與呂布的差距愈發明顯。
過去，依靠幷州狼騎和陷陣營的英勇，呂布尚能與曹操打得難解難分；但現在面對曹操大軍，呂布的軍隊幾乎是一觸即潰。
大約五分之一的將領很快選擇投降曹操，剩下的大部分人心惶惶。
迷茫的張遼在這場紛爭中真正找到了他的明主——曹操。
曹操強大的攻勢使得曹呂雙方的勝負愈發懸殊。
思索良久後，呂布決定將全部兵力集結在下邳附近，他以為曹軍會如幾年前一樣，因糧草短缺最終被迫撤退。
然而，現實狠狠地給了他一個回擊。
曹軍如今擁有了淮南的廣袤領土，短時間內不再為糧草發愁。
再加上去年兗州由於屯田計劃的成功實施迎來了豐收年，曹軍的補給異常充足，足以支援長達一年的圍城戰。
探明瞭敵方虛實後，張遼與高順立即向呂布進言，建議放棄固守下邳的戰略，但此時呂布已經剛愎自用到了極致，他認為曹操即便在這幾年間變得強大了，但仍不可能在一戰中消滅像他這樣的勇士。
因此，呂布駁回了張遼和高順的建議，並堅定地向全軍下達了固守下邳的命令。
其他各城池在接收到調令後迅速向南撤往了下邳，但也有些人看出了呂布的本質選擇投誠於曹操。
只用了二十天的時間，曹軍便迅速佔領了徐州九郡除下邳和海西外的其他七郡。
而海西未能被攻克是因為有臧霸駐守在此。
曹軍急於拿下下邳，暫無暇顧及此地。
呂布聽到訊息，立即派使節前往求援，但形勢已很明顯呂布不敵曹操。
臧霸雖然名義上是呂布的人馬，但實際上享有高度自治權，更傾向於自保。
不出所料，臧霸很快以兵馬不足的理由拒絕出兵。
氣急敗壞的呂布準備親自攻打臧霸，張遼得知訊息急忙前去勸阻。
張遼明白，此時如果呂布貿然行動，可能促使臧霸直接投誠曹操，於是他寫信向臧霸闡述當前形勢，說明戰爭充滿變數，在最後決戰來臨前誰都無法確定勝者。
他建議臧霸不要輕易介入衝突，並提醒即使是以弱勢迎敵也存在勝利的機會，如歷史上以少勝多的經典案例一般，最終希望臧霸按兵不動，等到局勢明朗再做打算。
實際上，臧霸對於呂布並無太多的敬重。
【但對於張遼和高順這兩位呂布麾下的能臣，臧霸極為賞識。
】在收到書信後，臧霸採納了張遼的建議。
若非如此，臧霸很可能在戰爭初期便率軍向曹操投降。
也就是說，如果沒有張遼的信件，呂布的覆滅可能會比原定時間提前一些。
儘管如此，在曹軍的強大攻勢下，呂布的頹勢日益顯現。
下邳城內計程車兵士氣低落，戰鬥力幾乎喪失殆盡；接連不斷的叛亂讓張遼和高順頭疼不已。
與此同時，呂布也變得更加多疑，對正直的高順充滿猜忌，對張遼也漸失耐心，相反，呂布卻開始重用他的親戚魏續、宋憲和侯成等人。
儘管這些人的能力有限，但因為他們與呂布的親屬關係，得到更多信任。
在這種情況下，張遼和高順被排擠出核心權力圈，下邳城的防守也愈發紊亂，最終在大水湧入時，下邳城被攻破。
呂布最信任的魏續、宋憲、侯成三人親自將其捆綁送往曹操處。
而張遼和高順也隨之成為俘虜。
高順始終不願屈服，終被曹操斬首；而張遼卻未願意因呂布喪生，他認為自己早已為臣子之責竭盡全力，且呂布尚欠他甚多。
在曹操的勸說下，張遼選擇投誠，並立刻被授予中郎將一職及關內侯爵位。
建安五年，官渡之戰爆發，在其之前的哨站戰——白馬之戰和延津之戰中，張遼表現出色。
白馬之戰中，“河北四庭柱”
之首顏良聲名顯赫、威風凜凜，所向無敵。
張遼曾主動請纓想要擊敗顏良，最終任務卻交給了關羽，但與關羽關係甚好的張遼積極為其打助攻，率領少數騎兵，拖延了顏良麾下大軍的腳步，才使得關羽能夠成功斬殺顏良。
可見白馬之戰不僅是荀攸奇謀的勝利，也有賴於張遼誘敵之舉。
單單靠關羽一人，絕對無法完成單獨挑戰顏良並戰勝兩萬精銳袁軍的壯舉！
在延津之戰中，