正如曹操所料，在曹操攻下陽平關之時，孫權集結十萬大軍前去攻打合肥。孫權此次勢在必得，幾乎帶上了所有大將，有呂蒙、陳武、甘寧、淩統、丁奉、徐盛、潘璋、宋謙、蔣欽、賀齊、周泰等二十餘員，孫權命令周泰總督糧草，八月初起兵，中旬過逍遙津抵達合肥城下。
合肥守將張遼緊急召眾將商議。護軍薛悌忽然想起曹操臨起兵漢中時的囑咐，拿出曹操留下的綿囊遞給張遼，張遼打開視之，上麵寫道：賊至，張遼、李典二位將軍出擊，樂進守城，護軍薛悌不參戰。
看罷，張遼將信箋又遞於眾將觀看，張遼道，“主公的意思很明白，主公是說：待敵軍正在集結時由我與李典將軍出其不意攻之，樂將軍守城。眼下敵人正在集結，李將軍可願與我出城攻之？”
李典素來與張遼不睦，但今見張遼置生死於度外便慷慨地道，“此乃國家大事，我李典怎能因私而廢公，我願與將軍共同出戰。”張遼大喜，於是從守城的八千兵士中挑出八百身強力壯之人，殺豬宰牛，當晚大吃一頓，次日淩晨，趁東吳兵還未起床之際，張遼與李典打開城門，率八百騎兵直奔孫權的中軍大營殺去。直衝到孫權的大營門口，張遼大喝道，“張遼來也！”，接連刺死了十多個迎敵的兵士，斬殺兩員將校。
孫權聽營內大亂，忙穿好衣服，有兵士來報說張遼撞營，孫權大驚，搶過一兵士的長矛往外便走，正好與陳武踫麵，陳武急忙孫權的戰馬牽來，兩人上了戰馬向一山丘奔去，正遇張遼。陳武挺槍來戰，由於慌亂，戰不十合，被張遼一槍刺死。
宋謙、徐盛趕來雙戰張遼，張遼奮起神威，一槍刺中徐盛的肩膀，徐盛丟槍而逃，宋謙敵張遼不住，撥馬便逃。
由於張遼來的太突然，各個營寨的眾將都還來不及救援，孫權隻好在慌亂之中帶著一部分兵士跑到了一座土山上，持矛自衛。張遼從來不認識孫權，隻知他是一員大將，便在土山上衝孫權喊道，“敵將，跑到土山上算什麽英雄，有種下來單挑！”