深入万里，兵不血刃，擒夷叛党，真所谓文武兼备了。”遂授他礼部尚书，兼检校右卫大将军。阿史那都支等，锢死狱中。寻又遣行俭为定襄道大总管，往讨东突厥，随笔递入。先是东突厥破灭，曾遣残众三百帐至云中城，由阿史德氏为首领后来生齿渐蕃，特徙瀚海都护至云中，改名云中都护。见二十七回。阿史德氏诣阙面陈，请援照番俗，立亲王为可汗，统辖部民。高宗道：“今称可汗，就是古时的单于，可改称云中府为单于大都护府，令皇子殷王旭轮遥领便了。”阿史德氏欢跃而去，自是数年无寇警。后来殷王旭轮，累徙封相王，易名为旦。就是前回的相王旦。
所有单于大都护的兼职，也即撤销。
当裴行俭出使波斯时，单于府忽生叛乱，阿史德氏温傅奉职二部，擅立阿史那泥熟匐为可汗，反抗唐廷。塞北二十四州酋长，一并响应，北方大震。高宗命单于府长史萧嗣业，及右领军卫将军苑大智，右千牛卫将军李景嘉等，统兵往征。嗣业等屡战屡捷，恃胜而骄。会值雨雪连绵，沙漠无行人，因闭营夜宴，毫不设备，谁料突厥兵竟倾寨前来，突入唐营。嗣业仓猝先奔，众遂大乱，丧亡无算。还是大智景嘉，引兵断后，且战且行，方得驰入都护府中。高宗接得败报，下诏严谴，流嗣业至桂州，免大智景嘉官，特令裴行俭为行军大总管，与丰州都督程务挺，幽州都督李文暕，总兵三十余万，杀奔朔方。到了朔州，行俭语部将道：“抚士贵诚，制敌尚诈，前时萧嗣业有勇无谋，所以致败，我岂可再蹈覆辙呢？”好谋而成，是行军要着。乃诈设粮车三百乘，每车选壮士五人，各持短刀强弩，蜷伏在内，外用羸卒数百人护着，徐徐前行，别用精军数千名，抄出旁路，择险伏着，接应这假粮车。突厥骑兵，登高遥望，见有粮车到来，飞步上前，就势攻夺。羸卒弃车散走，一任虏骑运去。虏骑驱就水草，解鞍牧马，拟向车中取粮，不意壮士突出，一阵乱斫，杀毙虏骑多人，虏骑惊走，复为伏兵所邀，杀获几尽。嗣是粮车往来，虏莫敢近。
及抵单于府北，日暮下营，掘堑已周，行俭左右巡视，忙令将士移就高冈。诸将皆言士卒已安，不宜再动，行俭道：“你等到了明日，自能分晓，快快移营为妙。”将士不敢违慢，方才迁移，是夜风雨暴至，几似山崩地塌一般，黎明俯视，见前所营地，水深丈余，乃相率惊服，各入帐问明缘由。行俭笑道：“自今但从我命，不必问所由知。”诸将皆默然而退。此非行俭独具神智，无非随时小心，视有致雨之兆，所以移军。及雨止水涸，行俭急命进军。到了黑山，泥熟匐奉职两人，领着番骑前来接战。行俭固垒不动，听番骑前来突阵，只准守，不准攻，待敌气已馁，方传出一声军令，命程李二将为左右翼，自为中军，开营驰击，包抄过去，好似天罗地网，罩住番军。奉职中矢受擒，泥熟匐还想脱逃，由行俭大呼道：“活擒泥熟匐，赏万金！杀死泥熟匐，赏千金！无论我军与敌军一例给赏。”番兵正苦不得脱身，蓦闻得这般军令，便倒戈而入，立将泥熟匐刺死，持首乞降。行俭并不失信，即将千金散给，用降兵为前导，进捣敌巢。阿史德温傅，留守巢穴，闻泥熟匐等全军覆没，吓得魂胆飞扬，似飞的逃入狼山去了。
唐廷遣户部尚书崔知悌，驰往定襄，宣慰将士，且处置余寇，行俭乃引军东归。到了开耀元年，温傅又整缮兵甲，迎立颉利子阿史那伏念为可汗，再寇原庆二州，乃仍敕行俭往征，副以左武卫将军曹怀舜，及幽州都督李文暕。怀舜率步兵先行，遇伏念军，伏念用诈降计绐怀舜，怀舜不加防备，被伏念乘隙袭击，弃军而走，返至长城口，敌兵尚滚滚杀来。怀舜只好括聚金帛，赍赂伏念，与他约和，伏念乃北去。行俭至陉口，接得怀舜败耗，按兵自固，但遣使与伏念申盟，劝攻温傅，一面复向温傅致书，令拒伏念。两人一行一守，未曾面洽，遂堕入反间计，害得惶惑不定，行俭又探得伏念辎重。留在金牙山，遂密令轻骑掩击，竟得将辎重劫来，连伏念妻子，也一并拘到。伏念惊惶失措，走保细沙。行俭又使副将刘敬同程务挺等，昼夜追蹑，逼得伏念情急势穷，乃遣使至军前，情愿执献温傅，自赎前愆。刘敬同等限期执献，果然伏念遵限，把那温傅缚献军前，且偕敬同等诣行俭营，面行投诚。行俭命随同入朝，许他不死，伏念没法，只得与温傅同作俘虏，趋诣阙廷。你用诈降计，无怪他人用诱降计。行俭入阙献俘，面请赦免伏念，高宗已是允许，不意侍中裴炎，嫉行俭功，奏称伏念为程务挺等所逼，穷蹙乞降，并非本心，不如正法以免后患。高宗被他煽惑，竟命将伏念温傅，上同斩首。且因伏念受擒，功出程务挺等，止封行俭为闻喜县公。同是姓裴，还要遭忌，遑问他人。行俭叹道：“浑濬争功，系晋初灭吴事。古今所耻，我亦何敢言功哩？但恐朝廷杀降人，外人望风生畏，将不复来，这却可虑。”因此称疾不出。
高宗以突厥告平，又因太子生男，名为重照，两喜交集，复改元永淳，才经月余，西突厥遗裔阿史那车薄，复率十姓造反，那时又要用着裴行俭，再令为大总管，指日出师。师尚未发，行俭得病而终，年六十四，赠幽州都督，赐谥曰献。行俭闻喜人，少工书法，草