修擔任太尉府長史，再加上他又奏請天子讓楊彪當了司徒，重新將楊彪拉上了三公之位，雙管齊下，成功的拉攏到了楊彪的支援。
離開楊府之後，張彥讓楊修明日去上任，太尉府的府邸，其實就是大將軍府，張彥將兩府合二為一，但卻在府邸裡劃分出了兩個不同的別院，一個做為太尉府的幕僚辦公之用，另一個則做為大將軍府的幕僚辦公之用。
張彥回到府邸後，正式以太尉的職位，向天下徵召幕僚，按照規定，太尉的幕僚除了長史總攬全域性之外，府中尚缺一位主簿，還有西曹、東曹、戶曹、奏曹、辭曹、法曹、尉曹、賊曹、決曹、兵曹、金曹、倉曹等十二曹的掾、史、屬。
掾為各曹正主事，史為副主事，屬的地位則略低於掾、史，同樣負責掌管著十二曹。一般情況下，太尉府中只有掾、史，除非政務特別繁忙之時，才會擴充幕僚隊伍，設立屬來分擔掾、史的壓力。
太尉是三公之首，本來是負責掌管軍事的，是皇帝身邊的高階軍事顧問，相當於現在的總參謀長之職。
但是，到了東漢，隨著劉秀對皇權的加強，以及實際權力逐步轉移到尚書檯，太尉一職，漸漸的演變成為了國政的管理者，其職權大體等同於丞相。
太尉之下的十二曹，其職權如下：西曹主府史署用。東曹主二千石長史遷除及軍吏。戶曹主民戶、祠祀、農桑。奏曹主奏議事。辭曹主辭訟事。法曹主郵驛科程事。尉曹主卒徒轉運事。賊曹主盜賊事。決曹主罪法事。兵曹主兵事。金曹主貨幣、鹽、鐵事。倉曹主倉谷事。
單從這十二曹的職權細分，便不難看出，東漢的太尉。已經完全蛻變成了管理國政的官職。與西漢早期掌武事的太尉名同而實異。
於是。張彥讓人舉薦有能之士，公開聘用幕僚。
訊息傳出後，下邳太守陳矯聽聞此事，便舉薦同郡徐宣、衛旌、劉穎三人。
徐宣乃陳矯舊友，是廣陵海西人，陳登為廣陵太守時，便任其為海西縣令。海西靠近大海，有很長的海岸線。境內百姓多數以製鹽為業。自從張彥頒佈鹽鐵官營，百姓若販賣私鹽，必須取得執照，這一道命令激怒了境內許多鹽商，徐宣剛上任的第二天，境內鹽商便聚眾造反，推舉一李姓鹽商為首，率眾圍攻縣衙。
徐宣被包圍在縣衙裡，在得知造反的人都是受到李姓鹽商的蠱惑後，急中生智。假意投降李姓鹽商，卻暗中找到了四名大力士跟在他的身邊。待兩人見面之時，突然發難，殺死了李姓鹽商。而徐宣更是找人假扮陳登的軍隊，嚇跑了造反的人。
之後，徐宣招募一支五百人的軍隊，一邊招降造反的鹽商，一邊攻擊不願意投降的鹽商，又巧施離間計，分化造反的鹽商，各個擊破。
一個月後，張彥便平定了海西的鹽商叛亂，將所有參與叛亂的鹽商攻擊三十七人全部處斬於街市上，由此，徐宣在海西聲威大震。
衛旌、劉穎二人都是廣陵比較有才學的人，被陳矯一併舉薦給了張彥。
張彥於是以徐宣為賊曹掾，衛旌為辭曹掾，劉穎決曹掾。
隨後，衛尉王朗也舉薦了三個人，分別是會稽人闞澤、虞翻，以及汝南人程秉。
王朗在會稽當太守時，曾聘用虞翻為功曹，如今他當了衛尉，自然不會忘記虞翻，便直接舉薦了過來。
闞澤是會稽山陰人，其家世代務農，但闞澤喜愛學習，因家貧無錢，便常為人僱用抄書，以此換取紙筆。抄完書後，他也就將那部書全部誦讀完畢。他追記先生論講，探究博覽群書，並且通曉天算曆法，由此聲名顯揚。去年剛剛被王朗舉為孝廉，出任錢塘長，也算是王朗的一位下屬。
至於程秉，王朗在當會稽太守時，程秉曾從會稽路過，前往交州。王朗機緣巧合之下與程秉相遇，結果一見如故，這才知道，程秉曾跟隨鄭玄學習過，與王朗十分投機。
如今程秉在交州牧士燮帳下為長史，但王朗愛惜程秉的才華，便舉薦給了張彥，同時自己更是親自寫了一封書信，讓人送往交州，希望程秉能夠來彭城。
隨後，廷尉正監司馬芝舉薦族兄司馬朗，以及同郡王象、楊俊。其餘官員則相繼舉薦賢才，桓階、阮瑀、劉琰也一併被聘用。
短短兩天之內，十二位賢才被舉薦了出來，張彥以太尉府的命令，下令徵召這十二人來府中分別擔任十二曹掾。
又過了幾天，袁渙從袁術那裡逃了出來，攜家帶口，前來彭城投效張彥。張彥於是以袁渙為太尉府主簿。又特意給袁渙安排了住處，並且從袁渙那裡得知了袁