正如曹操所料，在曹操攻下阳平关之时，孙权集结十万大军前去攻打合肥。孙权此次势在必得，几乎带上了所有大将，有吕蒙、陈武、甘宁、凌统、丁奉、徐盛、潘璋、宋谦、蒋钦、贺齐、周泰等二十余员，孙权命令周泰总督粮草，八月初起兵，中旬过逍遥津抵达合肥城下。
合肥守将张辽紧急召众将商议。护军薛悌忽然想起曹操临起兵汉中时的嘱咐，拿出曹操留下的绵囊递给张辽，张辽打开视之，上面写道：贼至，张辽、李典二位将军出击，乐进守城，护军薛悌不参战。
看罢，张辽将信笺又递于众将观看，张辽道，“主公的意思很明白，主公是说：待敌军正在集结时由我与李典将军出其不意攻之，乐将军守城。眼下敌人正在集结，李将军可愿与我出城攻之？”
李典素来与张辽不睦，但今见张辽置生死于度外便慷慨地道，“此乃国家大事，我李典怎能因私而废公，我愿与将军共同出战。”张辽大喜，于是从守城的八千兵士中挑出八百身强力壮之人，杀猪宰牛，当晚大吃一顿，次日凌晨，趁东吴兵还未起床之际，张辽与李典打开城门，率八百骑兵直奔孙权的中军大营杀去。直冲到孙权的大营门口，张辽大喝道，“张辽来也！”，接连刺死了十多个迎敌的兵士，斩杀两员将校。
孙权听营内大乱，忙穿好衣服，有兵士来报说张辽撞营，孙权大惊，抢过一兵士的长矛往外便走，正好与陈武碰面，陈武急忙孙权的战马牵来，两人上了战马向一山丘奔去，正遇张辽。陈武挺枪来战，由于慌乱，战不十合，被张辽一枪刺死。
宋谦、徐盛赶来双战张辽，张辽奋起神威，一枪刺中徐盛的肩膀，徐盛丢枪而逃，宋谦敌张辽不住，拨马便逃。
由于张辽来的太突然，各个营寨的众将都还来不及救援，孙权只好在慌乱之中带着一部分兵士跑到了一座土山上，持矛自卫。张辽从来不认识孙权，只知他是一员大将，便在土山上冲孙权喊道，“敌将，跑到土山上算什么英雄，有种下来单挑！”
此时孙权临近营寨的潘璋引军赶来，将张辽、李典的八百敢死队围困起来，张辽见事不妙便率军突围，与李典杀开条血路突出重围，回头看到还有几百名兵士没有冲出，张辽与李典又返身杀回，杀散吴兵，潘璋、周泰、蒋钦、丁奉见张辽如此神勇都不敢迎敌。
张辽救出被围兵士，向合肥返回。吴兵不敢追赶。
孙权被张辽八百勇士突然一击，顿时颓靡了，自己这是十万大军啊，怎么就被张辽千余人在数万人的营寨中杀了好几个来回？陈武也被斩杀，宋谦、徐盛也被刺伤，这张辽也太勇猛了。孙权越想越怕。
待后面的部队陆续赶到，孙权也没敢去攻合肥城。这是因为一是孙权的军队士气底靡，二是孙权见合肥城城高墙厚极难攻打，三是由于天气炎热，部队中有不少兵士出现拉稀现象，孙权感到无力再去攻打合肥，于是便命令撤军。
孙权的大军开始陆续过逍遥津后撤，最后只剩下五支军队，包括孙权手下的卫队一千人马及甘宁、凌统、吕蒙、蒋钦各自手下亲兵共计二千人马还没过逍遥津。
孙权大军撤兵，张辽在合肥城上看的一清而楚，这天他见逍遥津北岸只剩两千人马还未撤走，张辽便决定歼灭这支部队，于是他命令打开城门，率几千人马杀出合肥城，奔孙权他们而去。
张辽命令一支骑兵快速地去占领逍遥津渡口的桥头，将桥毁掉，切断孙权的退路。孙权正率领着部队往渡口赶着，忽见张辽率军杀来，大惊失色，忙急令让过河的部队返回救援。一时间，张辽的骑兵已经追至，甘宁回身拼命射箭，箭尽便持矛拼杀。
凌统率亲兵杀出重围却不见孙权，于是又返身杀回，将孙权救出，身上多处受伤，保护着孙权来到渡口，此时张辽兵拥至，两军混战，东吴兵节节败退。甘宁见号角手已吓得不知所措，便对他大喝道，“为何不吹号角！再不吹就杀了你！”号角手这才吹响战斗的号角，东吴兵为之一振，奋力拼杀，吕蒙、蒋钦才保护着孙权来到桥上，却见桥面中间已被拆除有一丈余宽，孙权连连叫苦，仰天长叹，“唉！看来我孙权今日要命丧此地也！”
亲兵待卫谷利见状忙大叫孙权把马后撤几步，让孙权双手抓牢马鞍，然后挥马鞭猛击马的屁股，这马一声嘶鸣向前冲去，一跃而过断桥，孙权这才得以逃脱。甘宁等人也同样骤马过桥，凌统率亲兵战至一人，弃马跳河，带甲潜回对岸。
对岸已有大将贺齐率军接应。此时没有过河的东吴兵失去了将领纷纷弃戈投降，张辽便问降兵有个紫色胡须、身长腿短、善于骑射的人是谁？降兵便告诉是孙权，张辽叹息不已，言道要早知孙权模样早把孙权捉住了。
孙权坐上大船回东吴，在船上与众将饮宴，贺齐哭道，“主公身为人主，应当持重，怎可断后，象今天情形如此危险让将士们都惊恐万分，以后主公可不要再这样了。”孙权谢道，“将军之言是也，此次大败也是我太粗心大意了，以后行军勿加小心。”
此时有兵士报告凌统回来了，凌统进见跪拜于地。孙权惊喜异常，但见凌统盔甲不整、浑身上下溅满了血渍，身上也多处受伤，孙权忙起身过去扶起凌统，凌统哭道，“我的亲兵全部都阵亡了……”孙权安慰道，“凌将军，辛苦你了，你放心，我再补给你两倍的精兵。”孙权吩咐卫兵扶凌统下去医治伤口。
经过了逍遥津这一战，张辽的名字威震江东，江东这才有了“张辽止啼”的这一说法，意思是江东的百娃见小孩哭了哄不好便吓唬道，“莫再哭，张辽来了！”小孩害怕，便止住了哭声。此语甚至传到了日本，曰“辽来々”。