張遼帶領部分士兵運輸糧草以誘敵深入，果然文丑被引誘而出，頭腦昏熱之際迅速陷入張遼和徐晃等人合圍的局面，文丑最終喪身亂戰之中，他的部下也隨之一鬨而散。
戰後，張遼因功升為裨將軍。
當官渡主戰場烽煙四起時，初期張遼與曹仁等將領一道守護營地，在戰爭後期則自願成為跟隨曹操突襲烏巢、火燒袁軍糧草的人選之一。
儘管他加入曹營較晚，但因為卓越的才能，成為了曹軍晉升速度最快的將領之一。
在倉亭之戰中，曹操採納程昱“十面埋伏”
的計策，分兵多路進攻，張遼統領其中的一支主力。
此時在曹營眾將中，除去曹姓與夏侯姓宗室外，地位僅于于禁之下的便是張遼。
戰役之後，張遼負責訓練軍隊，提出了一套新的戰術編列，並大幅提升騎兵與步兵的戰鬥力特別是應對外族鐵騎的策略。
此期間袁尚與曹操之間的黎陽之戰一觸即發，張遼雖未參戰主戰場，卻成功指揮一小隊騎兵鉗制了高幹從幷州南下的騎兵力量，大大減輕了主戰場上壓力。
黎陽之戰過後，曹操對冀州展開全面攻佔計劃，張遼受到委派，多次率軍攻克城池。
建安九年曹操攻克鄴城，其間張遼又立功斬首袁尚麾下兩名重要將領。
這一年他還率軍北上擊潰鮮卑人，並在回軍路上遭遇並擊敗了黑山軍的襲擊，為首者為孫輕。
面對太行山一帶熟悉的地形，張遼利用敵人麻痺大意再度出擊，一舉擊潰對手且緊追不捨，直接追進了太行山附近區域。
【直到黑山賊首領孫輕被處決，張遼才停止了追擊。
】 【不久後，張遼順手斬殺黑山賊二號人物的訊息傳到了曹操耳中。
】