陽），被貶至西域極邊，是被遠遠地流放了。
但是，裴行儉非一般仁宦可比，他是隋朝名將之後，個人才藝兼優，名重一時。貞觀年舉明經科，任左屯衛倉考軍的小官。但是大將軍蘇定方很欣賞他，加意培養他。很快，他便才能顯著，其謀略、戰陣、遠見都超出常人，被高宗升為長安令。由於他的文武皆優，很快名傳西域，京城也流傳著他在西域的故事。麟德二年，垂簾聽政的武則天便升他為安西都護（都護府長官）。不久便又召入朝廷，升為吏部侍郎，為銓選要職。任職期間，他與同僚所定的《銓注選人之法》《州縣升降》《資擬高下》等，都稱著朝廷，以其“能”被時人傳頌。
當時，他與同僚李敬玄同任吏部，銓選文武。一次，李敬玄向他引見了太原人王勃、華陰人楊炯、范陽人盧照鄰、義烏人駱賓王，稱讚他們的文名。但裴行儉看了看這四個人向李敬玄耳語：“士當以才幹見識為首，然後文藝。王勃等雖有才華，終嫌浮躁，豈安享祿位者？”還說：他們連終壽也未必有；楊炯比較沉穩，可能還會有點前途。裴行儉的觀察判斷都被後事證實，說明他的遠見和觀察能力之強。而他選拔的助手如王方翼、程務挺、黑齒常之等，後來都成為名將。他向朝廷推薦的官員，僅做到刺史的就有數十人之多＇《新唐書》，卷第34，《裴行儉傳》；《資治通鑑》，卷203，永淳元四月。＇。
調露元年（679年），西突厥阿史那都支叛唐附吐蕃，再度興兵，侵逼安西。唐廷計議欲發兵討伐。吏部侍郎裴行儉向武則天建議，西域連年用兵，如今突厥又與吐蕃聯合，不可再度出師討伐了。今天有個兵不血刃的辦法，即以護送波斯王子泥涅師歸國為名，經過西突厥時順便就可以解決。天皇、天后都同意這麼做。
原來波斯（今伊朗，時稱薩珊波斯）唐初已與唐修好，派使來唐。後因大食（今阿拉伯）連年向波斯侵擾，該國王卑路斯親來大唐求援，高宗封他為右武衛將軍，但不久便去世了，他的兒子泥涅師還留在唐朝京師。
天皇、天后同意了裴行儉的意見後，命他為冊送波斯王子使者，兼任安撫大食使。裴行儉奏請肅州剌使王方翼為自己的副使，仍令檢校安西都護，以送泥涅師歸國為由，間取西突厥。
裴行儉做過西州長史，對那裡的情況相當熟悉。這次他們護送著波斯王子途經西州時，很多原來的屬下等人都到郊外來迎接，裴行儉召集了千餘人隨他走，並願意揚言：“現在天氣太熱了，不可長途跋涉，等天氣涼了再西上。”西突厥的間諜把這話報告了他們的首領阿史那都支，他聽後麻痺大意，遂不設防備。裴行儉便趁機召集龜茲、毗沙、焉耆、疏勒四部首領，向他們說：“昔在西州，騎馬射獵真快活啊今天還想再去遊獵玩一玩，誰能陪我呢？”各部落的部從都爭著跟隨，一下子集中近萬人。於是，裴行儉仍以狩獵為名，抓緊訓練他們。幾天後便率領這些訓練好的戰士快速西進，到敵方部落駐地十餘里處停下來，還派人去敵營中問候阿史那都支的安好，表示出悠閒無事的樣子。阿史那都支仍以為他們真是來打獵，仍無任何準備。然後，裴行儉又派人請他們一起打獵，便放心地率子弟五百餘人，去見裴行儉。裴行儉佯表歡迎，暗中已安排停當。等到阿史那都支率眾入營後，便聞一聲炮響，伏兵四起，一下子把他們全部捉拿了。然後，裴行儉率部突襲阿史那都支別部將領李遮匐軍營，李遮匐也毫無準備，只好束手就擒。裴行儉執其二首，大功告成，便令泥涅師自回波斯，留王方翼守安西，修築碎葉城（今古爾吉斯斯坦北部的托克馬克），自押兩個俘虜返回京師＇事見《資治通鑑》，卷202，調露元年七月。＇。
武則天見他全勝而還，果然兵不血刃就擒住西突厥王，即使在先朝名將裡也難找出這樣智勇雙全的大將來。於是，特設宴款待，嘉言褒獎：“卿有文武兼資，今授卿職。”任他為禮部尚書兼檢校右衛大將軍，這兩個官位是宰相兼大將軍，兼賦文武極品，在朝廷中已不多見了。
這年十月，在貞觀年間已被征服的東突厥又叛，阿史德溫傅、奉職二部糾集二十四州酋長共計十萬大軍侵及定州（今河北定縣），已深入到唐朝的內陸心腹地區了。天皇、天后派將率兵征討，結果遭到慘敗，幾乎全軍覆沒。突厥北進，一路打到營州（今遼寧朝陽），唐朝北部大部地區遭到侵擾。
永隆元年（680年），天皇、天后又任命裴行儉為定襄道行軍大總管，將兵十八萬，節制西軍檢校豐州都督程務挺、東軍幽州都督李文暕，合兵三十去討伐入侵的東突厥軍隊，所有將領一律受裴行儉指揮。