将到，与嚣战，并败，引退下陇。乃诏遵军汧，耿弇军漆，征西大将军冯异军栒邑，大司马吴汉等还屯长安。自是后遵数挫隗嚣。事已见冯异传。
八年秋，复从车驾上陇。及嚣破，帝东归过汧，幸遵营，劳飨士卒，作黄门武乐，良夜乃罢。时遵有疾，诏赐重茵，覆以御盖。复令进屯陇下。及公孙述遣兵救嚣，吴汉﹑耿弇等悉奔还，遵独留不却。九年春，卒于军。
丧礼成，复亲祠以太牢，如宣帝临霍光故事。诏大长秋、谒者、河南尹护丧事，大司农给费。博士范升上疏，追称遵曰：“臣闻先王崇政，尊美屏恶。
昔高祖大圣，深见远虑，班爵割地，与下分功，着录勋臣，颂其德美。生则宠以殊礼，奏事不名，入门不趋。死则畴其爵邑，世无绝嗣，丹书铁券，传于无穷。斯诚大汉厚下安人长久之德，所以累世十余，历载数百，
废而复兴，绝而复续者也。陛下以至德受命，先明汉道，曪序辅佐，封赏功臣，同符祖宗。征虏将军颍阳侯遵，不幸早薨。陛下仁恩，为之感伤，远迎河南，恻怛之恸，形于圣躬，丧事用度，仰给县官，重赐妻子，不可胜数。送死有以加生，厚亡有以过存，矫俗厉化，卓如日月。
古者臣疾君视，臣卒君吊，德之厚者也。陵彁已来久矣。及至陛下，复兴斯礼，髃下感动，莫不自励。臣窃见遵修行积善，竭忠于国，北平渔阳，西拒陇、蜀，先登坻上，深取略阳。觽兵既退，独守嚰难。制御士心，不越法度。所在吏人，不知有军。清名闻于海内，廉白着于当世。所得赏赐，辄尽与吏士，身无奇衣，家无私财。同产兄午以遵无子，娶妾送之，遵乃使人逆而不受，自以身任于国，不敢图生虑继嗣之计。临死遗诫牛车载丧，薄葬洛阳。问以家事，终无所言。任重道远，死而后已。遵为将军，取士皆用儒术，对酒设乐，必雅歌投壶。又建为孔子立后，奏置五经大夫。
虽在军旅，不忘俎豆，可*(为)**[谓]*好礼悦乐，守死善道者也。礼，生有爵，死有谥，爵以殊尊卑，谥以明善恶。臣愚以为宜因遵薨，论叙觽功，详案谥法，以礼成之。显章国家笃古之制，为后嗣法。”帝乃下升章以示公卿。至葬，车驾复临，赠以将军、侯印绶，朱轮容车，介士军陈送葬，谥曰成侯。既葬，车驾复临其坟，存见夫人室家。其后会朝，帝每叹曰：“安得忧国奉公之臣如祭征虏者乎！”遵之见思若此。
无子，国除。兄午，官至酒泉太守。从弟肜。
肜字次孙，早孤，以至孝见称。遇天下乱，野无烟火，而独在頉侧。每贼过，见其尚幼而有志节，皆奇而哀之。
光武初以遵故，拜肜为黄门侍郎，常在左右。及遵卒无子，帝追伤之，以肜为偃师长，令近遵坟墓，四时奉祠之。肜有权略，视事五岁，县无盗贼，课为第一，迁襄贲令。时天下郡国尚未悉平，襄贲盗贼白日公行。肜至，诛破奸猾，殄其支党，数年，襄贲政清。玺书勉励，增秩一等，赐缣百匹。
当是时，匈奴、鲜卑及赤山乌桓连和强盛，数入塞杀略吏人。朝廷以为忧，益增缘边兵，郡有数千人，又遣诸将分屯障塞。帝以肜为能，建武十七年，拜辽东太守。至则励兵马，广斥候。肜有勇力，能贯三百斤弓。虏每犯塞，常为士卒*[前]*锋，数破走之。二十一年秋，鲜卑万余骑寇辽东，肜率数千人迎击之，自被甲陷陈，虏大奔，投水死者过半，遂穷追出塞，虏急，皆弃兵祼身散走，斩首三千余级，获马数千匹。自是后鲜卑震怖，畏肜不敢复窥塞。肜以三虏连和，卒为边害，二十五年，乃使招呼鲜卑，示以财利。其大都护偏何遣使奉献，愿得归化，肜慰纳赏赐，稍复亲附。
其异种满离、高句骊之属，遂骆驿款塞，上貂裘好马，帝辄倍其赏赐。其后偏何邑落诸豪并归义，愿自暛。肜曰：“审欲立功，当归击匈奴，斩送头首乃信耳。”
偏何等皆仰天指心曰：“必自暛！”即击匈奴左伊*(袟)**[秩]*訾部，斩首二千余级，持头诣郡。其后岁岁相攻，辄送首级受赏赐。自是匈奴衰弱，边无寇警，鲜卑、乌桓并入朝贡。
肜为人质厚重毅，体貌绝觽。抚夷狄以恩信，皆畏而爱之，故得其死力。初，赤山乌桓数犯上谷，为边害，诏书设购赏，*(功)**[切]*责州郡，不能禁。肜乃率励偏何，遣往讨之。永平元年，偏何击破赤山，斩其魁帅，持首诣肜，塞外震詟。肜之威声，畅于北方，西自武威，东尽玄菟及乐浪，胡夷皆来内附，野无风尘。乃悉罢缘边屯兵。
十二年，征为太仆。肜在辽东几三十年，衣无兼副。显宗既嘉其功，又美肜清约，拜日，赐钱百万，马三匹，衣被刀□下至居室什物，大小无不悉备。帝每见肜，常叹息以为可属以重任。后从东巡狩，过鲁，坐孔子讲堂，顾指子路室谓左右曰：“此太仆之室。太仆，吾之御侮也。”
临终谓其子曰：“吾蒙国厚恩，奉使不称，微绩不立，身死诚惭恨。义不可以无功受赏，死后，若悉簿上所得赐物，身自诣兵屯，效死前行，以副吾心。”
既卒，其子逢上疏具陈遗言。帝雅重肜，方更任用，闻之大惊，召问逢疾状，嗟叹者良久焉。乌桓、鲜卑追思肜无已，每朝贺京师，常过頉拜谒，仰天号泣乃去。辽东吏人为立祠，四时奉祭焉。