建安二十年 (215 年) ，孫權趁曹操用兵漢中之機，親率大軍直撲合肥。此戰東吳精銳盡出，十萬大軍竟為張遼的七千守軍所破，連孫權本人也差點為曹軍所俘，幸賴凌統、甘寧、呂蒙等人奮力死戰，才得以脫身。合肥逍遙津一役，是張遼畢生最閃光的佳作，演義說“這一陣殺得江南人人害怕，聞張遼大名，小兒也不敢夜啼”，可稱為防守戰術的經典戰例。建安十六年，孫權聽從長史張纮之議，將治所從京口西遷到“山川形勝”的秣陵，建石頭城，改名建業。同時，呂蒙以“兵有利鈍，戰無百勝，如有邂逅，敵步騎蹙入，不暇及水，其得入船乎”為由，勸孫權夾濡須水口立塢。

建安十八年，曹操攻濡須，孫權與之相拒月余，雖各有小勝，卻難以為功，曹操只得發出“生子當如孫仲謀”之嘆而退軍，并一面使張遼、樂進、李典等七千人屯合肥，一面遣朱光屯皖，大開稻田。但當初曹操軍譙備邊，恐江濱郡縣為權所略，不聽蔣濟“自破袁紹，北拔柳城，南向江漢，荊州交臂，威震天下，民無他志。然百姓懷土，實不樂徙，懼必不安”的勸說，征令內徙，使“江淮間十余萬眾皆驚走吳”，導致“江西遂虛”，皖城實際已是座孤城。建安十九年，孫權接受呂蒙“皖田肥美，若一收孰，彼眾必增，如有數歲，操態見矣，宜早除之”的建議，親率大軍征皖，呂蒙薦甘寧為升城督，督軍急攻，一戰而獲太守朱光及參軍董和，并男女數萬口。待張遼率兵來救，聞城已拔而退。同年七月，曹操知皖城失守，不顧賈逵、傅干等人的諫阻，忿然再次舉軍親征，然“士馬不能逞其能，奇變無所用其權”，“軍遂無功”(此戰史無明記)。曹操始悟與其膠著于此，不如回師而西取張魯。

建安二十年，劉備定蜀，孫權令諸葛瑾從求荊州諸郡，劉備當然不許，關羽盡逐權置三郡長吏。孫權忿之，乃遣呂蒙襲奪長沙、零陵、桂陽三郡，使魯肅以萬人屯巴丘以御關羽，權住陸口，為諸軍節度。劉備聞之，親提五萬大軍下公安，遣關羽進益陽，爭三郡，大戰一觸及發。是時曹操兵臨漢中，備懼失益州，使使求和，孫劉遂分荊州，重結舊盟。這樣，東吳西向無事，孫權遂把目光又投向東線的合肥。建安二十年，孫權親率十萬兵馬攻向合肥，麾下將領有呂蒙、甘寧、凌統、蔣欽、潘璋、陳武、賀齊、徐盛、呂范、宋謙等;而合肥僅有張遼、樂進、李典及護軍薛悌的七千守軍，曹軍主力又遠在關中，無力赴援，兵力十分懸殊。

早在曹操西擊張魯之前，交給護軍薛悌一道秘密教令，函邊寫著“賊至乃發”四字。現吳軍果真北上，張遼、樂進、李典、薛悌乃開函看教，教令上書：“若孫權至者，張、李將軍出戰，樂將軍守，護軍勿得與戰”。但敵眾我寡，分兵出戰，是否上策，諸將皆疑，唯張遼領會曹操用心之所在。曰：“公遠征在外，比救至，彼破我必矣。是以教指及其未合逆擊之，折其盛勢，以安眾心，然后可守也”，樂進等猶豫不定，張遼怒曰：“成敗之機，在此一戰，諸君何疑”，李典素與張遼不睦，但為其堅決赴敵的精神所打動。慨然曰：“此國家大事，顧君計何如耳，吾可以私憾而忘公義乎！請從君而出”。于是張遼“夜募敢從之士，得八百人，椎牛犒饗將士”，準備明日大戰。

次日凌晨，張遼帶著八百死士殺進孫權初到而不整的陣中，遼被甲持戟，先登陷陳，殺數十人，斬二將，大呼自名，直沖至孫權麾下。權見遼來勢兇猛，大為驚恐，其左右亦不知所措，只好走登高冢，以長戟自守。遼叱權下戰，權不敢動，望見遼所將眾少，乃聚圍遼數重。遼左右麾圍，直擊圍開，將麾下數十人得出，余眾號呼曰：“將軍棄我乎”，遼復還突圍，拔出余眾。權人馬皆披靡，無敢當者。自早戰至日中，吳人奪氣。遼等乃還修守備，眾心遂安，諸將十分佩服。東吳大軍云集，立即展開了攻城作戰。但由于魏軍初戰告捷，軍心大振，而吳軍銳氣頓失，此消彼長，再加上合肥防御工事在前揚州刺史劉馥的積極籌建下，非常完善堅固。東吳幾萬大軍連續圍攻十余日，戰役狀況和慘烈程度估計可與郝昭守陳倉相媲美，孫權久攻不下，軍中又疾疫流行，只得望城興嘆，撤軍引退。

吳軍依令皆引兵就路，大眾既去，唯留孫權與呂蒙、蔣欽、凌統及甘寧等人率車下虎士千馀人，尚在合肥以東之逍遙津北，張遼從高覘望知之，立即與李典、樂進率步騎突襲過去，孫權見勢不妙，“使追還前兵，兵去已遠，勢不相及”。形勢緊急，凌統率親近三百人陷圍捍衛，甘寧引弓射敵，諸將一起浴血奮戰，發現部卒斗志低靡，“寧厲聲問鼓吹何以不作，壯氣毅然”，吳軍士氣為之一振。激戰中，陳武奮命戰死，宋謙、徐盛皆被創披走，潘璋時“身次在后，便馳進，橫馬斬謙盛兵走者二人，兵皆還戰”。凌統扶捍孫權出，權乘駿馬上津橋，敵已毀橋，津南已見徹，丈余無板，親近監谷利時在權馬后，“使權持鞍緩控，利于后著鞭，以助馬勢，遂得超度”，策馬馳驅而去。

賀齊率三千兵在津南迎權，隨后中兵拒擊，得徐盛被創所失之矛。凌統亦返身再戰，“左右盡死，身亦被創，所殺數十人，度權已免，乃還，橋敗路絕，被甲潛行”，其余諸將也皆陸續返回。