段氏部落對慕容皝來說是個巨大的威脅，鹹康三年（337）三月，慕容皝命人在段部乙連城（今遼寧喀喇沁左翼蒙古族自治縣）東部修建了一座新城，讓折衝將軍蘭勃駐守，這樣一來可以加強防禦，二來可以對段部產生威脅。
這招果然產生了效果，為了加強乙連城的糧食儲備，四月，段遼命令數千輛車組成車隊，向乙連城運送糧食。蘭勃抓住時機，主動出擊，全部予以截獲。
九月，鎮軍左長史封奕等人認為慕容皝目前的職位（遼東公、鎮軍大將軍）和他承擔的責任不相符，勸慕容皝順應時事，稱燕王。慕容皝同意了，並開始設置各種政府機構，任命封奕為國相，韓壽為司馬，杜群任納言令（即尚書令）。
十月十四日，慕容皝正式稱燕王，下詔大赦，追尊父親武宣公慕容廆為武宣王，封自己的妻子段氏為王後，立世子慕容儁（jùn）為王太子。從此刻開始，五胡十六國中的另一個國家燕國出現，為了區別以後成立的各個燕國，史稱慕容皝建立的國家為“前燕”。
段遼四麵樹敵，還多次派兵襲擾後趙的邊境地區。慕容皝心生一計，他要借助外力，清除強敵。慕容皝派揚烈將軍宋回向後趙稱臣，請求石虎出兵討伐段遼，慕容皝許諾他將舉全國之力，和後趙並肩作戰。為了表示誠意，他還把自己的弟弟、寧遠將軍慕容汗送到鄴城做人質。石虎大喜，認為開疆拓土的機會又來了，盛情款待了宋回，回贈了豐厚的禮品，還把慕容汗又送了回去。石虎和慕容皝秘密約定，準備明年發兵。
鹹康四年（338）正月，慕容皝派都尉趙槃（pán）出使後趙，商定討伐段遼的具體日期。
石虎招募勇士三萬多人，將他們全部任命為龍騰中郎。段遼得到消息不甘示弱，派堂弟段屈雲主動進攻後趙的幽州，幽州刺史李孟不敵，撤至易京（今河北雄縣）。石虎任命桃豹為橫海將軍，王華為渡遼將軍，讓他們率領十萬水軍由漂渝津（今天津市東）發兵；又任命支雄為龍驤大將軍，姚弋仲為冠軍將軍，率領步騎兵部隊共七萬人為前鋒，討伐段遼。