222年，张辽不负众望，抱病击破吴将吕范。同年在江都病逝，谥刚侯，享年五十四岁。后世将其与乐进、于禁、张郃、徐晃并称为曹魏“五子良将”。张辽墓位于安徽省合肥市逍遥津公园内湖中岛上，为衣冠冢，现存墓冢，张辽陈列馆、逍遥阁和渡津桥。
回顾张辽的一生固然功劳赫赫，那么就没有能够超过他的吗？或者说，张辽缘何能够后来居上，成为曹操最为倚重之人？其实，曹营第一功臣是荀彧。荀彧犹如汉之萧何，辅佐曹操打下曹魏根基。可是，最终荀彧竟然被曹操赐死。原因很简单，荀彧曾经反对曹操称魏公，在曹魏的霸业蒸蒸日上的时候选择了皈依没落的汉朝。
既然道不同那不相为谋，曹操这个人可以容忍手下有各种毛病，但是绝对不允许有别样的想法，于是曹操疏离荀彧，崔琰，孔融。在五子之中，徐晃在破刘备、破吕布、破袁绍时皆有大功，尤其是在剿灭马超的时候提出率军奇袭马超后方，居功至伟。之后在关羽围攻樊城、襄阳时有率军救援，曹操大赞徐晃有辅汉名将周亚夫之风。
可以说，徐晃的功劳绝对不弱于张辽。即便是在五子之后，驻守江夏的文聘，也曾经施展空城计独立对抗孙权五万大军的突袭，在孙权犹疑撤退时更主动出击大败吴军，捍卫国土，名震敌国。为何张辽名位却远在他人之前？最重要的原因，是由于张辽的忠诚。
由于张辽事事以曹操为先，把曹魏的天下看得比自己的性命还重，这才是他受到曹操和曹丕欣赏的最重要原因。张辽不简单，战场上，冲锋陷阵，于百万军中横行；帷幕中，机巧决断，只言片语胜过十万雄兵；就算是在官场，在政坛，应对辞令也绝不输于那些谋臣策士。收服昌豨，张辽没有沾沾自喜，更没有居功自傲，而是把所有的功劳都推给主公曹操，因为曹操的威名，自己才获得成功，功归于主上。曹操听后自然更加高兴，得将如此，如何不视为腹心！
