後燕皇帝慕容垂滅了西燕後，又命遼西王慕容農率軍東渡黃河，和安南將軍尹國合兵一處，攻打東晉的青州、兗州地區。慕容農攻克了廩丘，尹國攻克了陽城，晉東平太守韋簡戰死，高平、泰山、琅琊等郡太守棄城逃跑。慕容農乘勝進軍到東海，任命了太守、縣令後回師。慕容垂取得了空前的勝利，親自到龍城祭告祖廟，向祖先報告勝利的消息。
太元十九年（394）十一月，慕容農大敗東晉的幽州刺史辟閭渾，進入臨淄。十二月，慕容垂召回慕容農。
太元二十年（395）五月，北魏拓跋珪派兵侵犯後燕邊境，進行掠奪。北魏敢在太歲頭上動土，這讓慕容垂很憤怒，他決定給拓跋珪一個教訓，讓他長長記性。
五月，慕容垂命太子慕容寶、遼西王慕容農和趙王慕容麟等統率八萬大軍挺進五原（今內蒙古包頭市），又派範陽王慕容德和陳留王慕容紹率領一萬八千人作為後援。
這裏要對慕容寶做一簡要介紹。慕容寶，字道祐，是慕容垂的第四個兒子，年輕的時候喜歡聽奉承話，等做了太子，他也開始注意加強個人修養，讀了不少儒家經典著作。他的文章寫得漂亮，口才也好，又比較注重打點慕容垂的近臣，這些人便不斷在慕容垂那裏說慕容寶的好話。慕容垂對慕容寶比較滿意，認為他能光大祖宗事業。
散騎常侍高湖勸慕容垂道：“幾代以來，魏都和我們結為姻親，他們有困難的時候，我們曾經給予他們幫助，兩國關係一直不錯，隻是四年前出現了一些誤會(1)，但責任在我方，兩國關係應該修複，不宜出動大軍討伐。拓跋珪自小曆經磨難，有勇有謀，不能輕視，但太子正值盛年，立功心切，定會蔑視敵人，如此，戰端一開，不好預料，如果進展不順，恐怕不好收場。請您三思後行！”高湖越說越激動，話音調門不自覺地升高了，慕容垂聽著很刺耳，一氣之下，把高湖削職為民。