在《后汉书》上就记载着一个祭遵的故事。
祭遵曾经跟着汉光武帝出征黄河以北，被任命为军市令。在光武帝的族中，有个小儿犯了法，祭遵就按照法律，严格地把他给处死了。光武帝听了这件事，就非常生气，命人把祭遵收监。当时的主簿陈副就进谏说：「您常常想让军纪严明，现在祭遵奉法不避权贵，这就是想让军令严明，使法令得到实施。」光武帝听这话，觉得很有道理，于是他就赦免了祭遵，并且还任命他为刺奸将军。光武帝经常告诫将领们说：「应该小心祭遵，我们家族中的一个小儿犯了法尚且被他杀掉，那他一定也不会对你们这些将领有所偏向。」光武帝平定了黄河以北之后，又把祭遵拜为征虏将军。
《后汉书·卷二十·铫期王霸祭遵列传第十》从征河北，为军市令。舍中儿犯法，遵格杀之。光武怒，命收遵。时，主簿陈副谏曰：“明公常欲众军整齐，今遵奉法不避，是教令所行也。“光武乃贳之，以为刺奸将军。谓诸将曰：“当备祭遵！吾舍中儿犯法尚杀之，必不私诸卿也。“寻拜为偏将军，从平河北，以功封列侯。
你看，贤明的君主用人用什么人？用那些严格执法、不徇私枉法的人。光武帝任用祭遵，并且给他很高的待遇，祭遵也严格要求自己，所受到的赏赐都分给手下的人，确实做得非常好。等他过世的时候，光武帝亲自去送他，看到他曾经坐过的车马，都痛哭流涕。他过世很久之后，光武帝还经常对群臣说：「怎样能够找到像祭遵这样忠于职守、奉公守法的臣子呢？」从这里我们看到光武帝也很了不起，为什么？因为他能够任用祭遵、赏识祭遵这样的廉正之人。祭遵就是我们上面所讲的「不挠法以吐刚」的人，不因为畏惧权贵而歪曲法律。
祭遵（？—33年），字弟孙，颍川颍阳（今河南襄城县颍阳镇）人。东汉中兴名将，“云台二十八将”之一。
祭（zhai）遵少爱读书，曾为县吏。投奔刘秀后，执法如山，平定渔阳，讨伐陇蜀，协助刘秀建立东汉。刘秀称帝后，任征虏将军，封颖阳侯。克己奉公，喜爱儒术。建武九年（33年）春，在军中去世，谥号为成。
祭(zhài)遵年轻时喜爱经书。家里富裕，而祭遵恭谨俭朴，不爱穿华丽衣服。母死后，背土起坟。曾被衙吏欺凌，祭遵结交宾客杀了衙吏。起初，县中以为他柔弱，以后都害怕他了。刘秀破了王寻等，回往颍阳，祭遵以县吏身份几次进见，刘秀喜爱他的容貌仪表，令他暂为门下吏。
《后汉书·卷二十·铫期王霸祭遵列传第十》少好经书。家富给，而遵恭俭，恶衣服。丧母，负土起坟。尝为部吏所侵，结客杀之。初，县中以其柔也，既而皆惮焉。及光武破王寻等，还过颍阳，遵以县吏数进见，光武爱其容仪，署为门下史。
建武二年（26年）春，拜为征虏将军，封为颍阳侯，与骠骑大将军景丹、建义大将军朱祐、汉忠将军王常、骑都尉王梁、臧宫等入箕关，南击弘农、厌新、柏华蛮中贼。祭遵中了弩箭，伤口流血，众人看到祭遵受伤，逐渐引退，祭遵呼叫斥骂不止，士卒都加倍苦战，于是大破贼兵。当时新城蛮中山贼张满，屯结兵士于险要之处为害人民，诏令祭遵去攻击，祭遵断绝了张满的粮道，张满几次挑战，祭遵坚守壁垒不出。而厌新、柏华的残余重新与张满会合，于是攻下了霍阳聚，祭遵于是分兵予以击破迫其投降。
《后汉书·卷二十·铫期王霸祭遵列传第十》建武二年春，拜征虏将军，定封颍阳侯。与骠骑大将军景丹、建义大将军朱祐、汉忠将军王常、骑都尉王梁、臧宫等入箕关，南击弘农、厌新、柏华蛮中贼。弩中遵口，洞出流血，众见遵伤，稍引退，遵呼叱止之，士卒战皆自倍，遂大破之。时，新城蛮中山贼张满，屯结险隘为人害，诏遵攻之。遵绝其粮道，满数挑战，遵坚壁不出。而厌新、柏华余贼复与满合，遂攻得霍阳聚，遵乃分兵击破降之。
建武三年（27年）春，张满饥饿困倦，祭遵攻破其城，活捉张满。起初，张满祭祀天地，自己说当为王，既被捉，叹道“：谶文误了我！”于是把他及其妻子儿女都斩了。祭遵引兵南击邓奉弟邓终于杜衍，攻破了。
《后汉书·卷二十·铫期王霸祭遵列传第十》明年春，张满饥困，城拔，生获之。初，满蔡祀天地，自云当王，既执，叹曰：“谶文误我！“乃斩之，夷其妻子。遵引兵南击邓奉弟终于杜衍，破之。
时涿郡太守张丰捉住使者举兵造反，自称无上大将军，与彭宠连兵。建武四年（28年），祭遵与朱祐及建威大将军耿弇、骁骑将军刘喜共同攻击张丰。祭遵兵先到，急攻张丰，张丰的功曹孟厷捉住张丰投降。起初，张丰喜好方术，有道士说张丰当做天子，以五彩囊裹着石头系在张丰的肘子上，说石中有玉玺。张丰相信了，就造反。既被捉当斩，他还说：“肘有玉玺。”祭遵将其石椎破，张丰才知被道士骗了，仰天叹道：“当死无所恨！”诸将都引回，祭遵受诏命留屯良乡抵拒彭宠。因而派遣护军傅玄袭击彭宠部将李豪于潞，大破其军，斩首千余级。相拒一年多，几次挫败其锋，彭宠党徒许多都投降。等到彭宠死，祭遵进军以平定其地。
《后汉书·卷二十·铫期王霸祭遵列传第十》时，涿郡太守张丰执使者举兵反，自称无上大将军，与彭宠连兵。四年，遵与朱祐及建威大将军耿弇、骁骑将军刘喜俱击之。遵兵先至，急攻丰，丰功曹孟厷执丰降。初，丰好方术，有道士言丰当为天子，以五彩囊裹石系丰肘，云石中有玉玺。丰信之，遂反。既执当斩，犹曰：“肘石有玉玺。“遵为椎破之，丰乃知被诈，仰天叹曰：“当死无所恨！“诸将皆引还，遵受诏留屯良乡拒彭宠。因遣护军傅玄袭击宠将李豪于潞，大破之，斩首千余级。相拒岁余，数挫其锋，党与多降者。及宠死，遵进定其地。
建武六年（30年）春，诏令祭遵与建威大将军耿弇(yǎn)、虎牙大将军盖延、汉忠将军王常、捕虏将军马武、骁骑将军刘歆、武威将军刘尚等从天水伐公孙述。军队停留长安，刘秀车驾也到了，而隗(wěi)嚣不想让汉兵上陇，借故推脱以为辞说。刘秀召集诸将商议。都说“：可以暂时拖延隗嚣日月之期，加封他手下的将帅，以促其分散瓦解。”祭遵说：“隗嚣怀挟奸谋已久。如果按兵不动拖延时日，就会促使他诈谋更深，而使公孙述增加警备，所以不如直接进兵。”刘秀听从了，就派遣祭遵为先锋。隗嚣派其将王元拒于陇坻，祭遵进击，破王元军，追到新关。等到诸将到，与隗嚣战，都失败了，引军退陇。刘秀诏令祭遵屯军于汧(qiān)，令耿弇屯军于漆，令征西大将军冯异屯军于栒邑，令大司马吴汉等回军长安。自此以后祭遵几次挫败隗嚣。
《后汉书·卷二十·铫期王霸祭遵列传第十》六年春，诏遵与建威大将军耿弇、虎牙大将军盖延、汉忠将军王常、捕虏将军马武、骁骑将军刘歆、武威将军刘尚等从天水伐公孙述。师次长安，时车驾亦至，而隗嚣不欲汉兵上陇，辞说解故。帝召诸将议，皆曰：“可且延嚣日月之期，益封其将帅，以消散之。“遵曰：“嚣挟奸久矣。今若按甲引时，则使其诈谋益深，而蜀警增备，固不如遂进。“帝从之，乃遣遵为前行。隗嚣使其将王元拒陇坻，遵进击，破之，追至新关。及诸将到，与嚣战，并败，引退下陇。乃诏遵军汧、耿弇军漆，征西大将军冯异军栒邑，大司马吴汉等还屯长安。自是后，遵数挫隗嚣。
建武八年（32年）秋，再从刘秀上陇。等到隗嚣破灭，刘秀东归经过汧(qiān)，到祭遵军营，慰劳饱飨士卒，作黄门武乐，深夜才停止。这时祭遵有病，诏赐厚厚的坐褥，上面覆盖着皇帝用的御盖。再令他进兵陇下。等到公孙述派兵援救隗嚣，吴汉、耿弇等全都逃奔而回，只有祭遵独留不肯退却。
《后汉书·卷二十·铫期王霸祭遵列传第十》八年秋，复从车驾上陇。及嚣破，帝东归过汧，幸遵营，劳飨士卒，作黄门武乐，良夜乃罢。时，遵有疾，诏赐重茵，覆以御盖。复令进屯陇下。及公孙述遣兵救嚣，吴汉、耿弇等悉奔还，遵独留不却。九年春，卒于军。
建武九年（33年）春，在军中去世。祭遵灵柩到河南县，帝诏遣百官先到治丧场所会齐，光武身着白色丧服驾临，望着哭泣哀恸。回经城门，阅过丧车，涕泣不能自已。丧礼成，又亲自以太牢之礼祭祀，如宣帝办霍光丧事一样。诏大长秋、谒者、河南尹护丧事，大司农负责费用。等到安葬，帝车驾再亲临，赠以将军、侯的印绶，用漆红了轮子的车子装着，让武士们排成军阵送葬，谥封为成侯。安葬完毕，光武再亲临其坟，妥为安置其夫人家室。
《后汉书》：”清名闻于海内，廉白著于当世。“
汉朝·刘秀：“安得忧国奉公之臣如祭征虏者乎！“
唐朝·褚亮：“金坛奇正，得之於怀抱，玉钤攻取，无劳於积习，祭遵儒术，未足方其雅歌，曹仁智勇，才可用其胜。”