棄了幾次入京參加科舉的機會，這一方面固然是因為當時他還年輕，兄長張廷玉並不希望他太早踏入官場，另一方面也不乏想跟著馬德多學些東西的原因。後來，江西有一個縣令出缺，馬德便讓他以舉人的身份暫掌其職。由於那個縣比較窮，他認為那是馬德給他的一個表現機會，便慨然赴任，想要在地方上幹出一番成績來。可是，沒想到才過了不久。朝廷卻又突然把他調到了雲南。
不解的他直到到了昆明才知道是馬德向於中推薦了他。而當他得知於中是想讓他出掌元江通判，幫助朝廷培養第一個土人縣令之後，他立即就感到了這個任務中地份量。所以，想都沒想，他就答應了下來。
如今，他已經在元江干了三年。在這三年中，他一面安撫因為土司被廢而惶恐的元江百姓，一面修建道路將元江的許多寨子給聯結了起來，又整頓治安。鼓勵生產，鼓勵各族百姓與漢人互市，同時還建立學堂，鼓勵元江各族百姓將孩子送進去學習。此外，他還在實際運作中培養了者保這個年輕的縣令以及由各族百姓共同構成的衙役、捕快……由於百姓淳樸，又有於中佈置下來的大環境配合，所以，一切順利。在官兵擊退緬軍之後，派往各�