于是张辽在当夜募集敢于出城迎战的精锐将士八百人，开剥牛支让将士饱食，准备明日大战。

天色刚亮，张辽被甲持戟，亲自先登上直直陷敌阵，撕裂了东吴军队的防线。

在他率军冲入东吴的中军营垒之前，张辽就已经亲自斩杀了数十名东吴士卒和两名东吴将领。

他一边大声呼喊着自己的名号一边拼杀，冲入东吴的中军营垒，此后，张辽率军继续猛攻，一直冲杀到孙权的主帅旗之下。

孙权见状大惊，孙权身边的众将士也因惊慌失措而不知道该如何应付，于是，孙权等人逃跑到一座较高的山冢上，用长戟来自卫。

张辽见敌方主帅退避，便叱喝孙权，挑衅他下来对战，但孙权没有轻举妄动，随后孙权发现张辽所率领的士兵非常少，于是聚拢东吴军队将张辽的部队重重包围。

张辽在吴军阵中左冲右突，终于打开包围圈，率领部下们突围。

公元216年，曹操再征孙权，到合肥后，曹操循行视察昔日张辽作战的地方，赞叹良久，于是给张辽增兵，多留诸军徙屯居巢。

公元217年，曹操攻濡须口，孙权请降，留夏侯惇、曹仁、张辽等屯居巢。

公元219年，关羽围曹仁于樊城，适时孙权称藩于魏，为了让孙权安心攻打荆州，于是曹操召张辽及诸军悉数回救曹仁。

张辽素来知晓曹操的用意，虽然他收到诏令较晚，但向樊城的进军速度却很快。

而张辽尚未到达，徐晃就已经打败关羽，张辽便与曹操会师摩陂，曹操乘车出来慰劳他，并派他屯于陈郡。

公元220年，曹操去世，曹丕即位魏王，张辽从征东将军平级转任为前将军，分封其兄张汛及一子列侯，同时，赐给张辽的帛多达千匹，谷多达万斛。

不久孙权再叛变，张辽还屯合肥，并进爵都乡侯，曹丕赐舆车予其母以示荣宠，并派兵马送其家人到他驻军的地方，又预先在当地告示张辽家人将要到临，命令所有守军出迎，众军士将吏都列队出候拜迎张辽家人。

看见此景的人均认为这是十分荣耀的事，同年曹丕称帝，再封张辽为晋阳侯，增邑千户，并前二千六百户。

公元221年，张辽到洛阳皇宫朝拜，曹丕便引张辽会晤于建始殿，亲问其昔日破吴时的情状，张辽述说过后，曹丕向左右叹息道：

“简直是古代的召虎啊！”

于是，曹丕下令为张辽建造屋舍，替其母兴建殿室，当年跟从张辽突破吴军阵线、直冲孙权帅旗而临时应募的一众步卒，都被封虎贲。

公元222年，孙权再次向曹魏称臣，张辽奉命还屯雍丘，却在此得病。

曹丕遣侍中刘晔带着太医审视其疾，并令虎贲卫士们往来传达张辽病况，为张辽问病的使者经常在路上互相遇见。

梁章巨《三国志旁证》中提到“汉三公病，遣中黄门问病，魏、晋则黄门郎，尤重者或侍中，张辽位未至公，而遣侍中，盖宠之也。”

可见曹丕如何重视张辽，张辽之疾久未痊愈，曹丕命人把他接到自己的行营，自己则车驾亲临，握着他的手，赐给他御衣，太官每天来送御膳。

病情稍有好转后，张辽便返回其屯军之所驻军，忠于职守，正当其时，孙权再次背叛曹魏，曹丕派张辽乘舟，与曹休到海陵临江驻防。

孙权知张辽至此，甚为忌惮，敕令诸将道：

“张辽虽然抱病，但仍是勇不可当的，千万要谨慎在意！”

同年，张辽与王凌等人进军至广陵，一天夜里，吕范等人的东吴水军漂至北岸。

张辽与王凌等人出战，大破吴将吕范等人，并缴获了大量舟船，但张辽的病情却也日渐严重，最后终于在江都逝世，一代名将就此陨落，曹丕为之流涕，谥曰刚侯，其子张虎嗣任其爵。

“文远将军，我家主公一到荡阴城，没有休息片刻，马不停蹄就来看你了......”

辛弃疾一边嚷嚷着，一边走进大帐之中，张辽闻言赶紧快步走出来迎接。

“公孙将军想见末将，让人前来唤我前去便是，将军旅途劳累，不敢劳烦亲自此处！”

眼见公孙越果然亲临大帐，张辽不由诚惶诚恐，毕竟自己只是声名不显的小将，而公孙越已经是雄据两州的一方大诸侯。

“文远将军，只要是金子总会发光，只要是尖锥总会破袋而出，将军只是缺少一个大平台而已。

若不是有将军前来，汉臣他们也不会赢得这么轻松，据兖州探马来报，吕将军在兖州士人的支持下，诸郡纷纷弃暗投明，如今曹操只剩东阿三县，文远宜速带兵前去助吕将军一臂之力！”

得知兖州的情况之后，张辽即刻命士卒去做准备，这一晚公孙越和张辽彻夜长谈，一直到天明时分才依依惜别。

“文远，若是哪天吕将军那里待不下去了，我这里的大门随时为你敞开，目前三郡未定，实在无力出兵与你们共击曹操。