在四世紀的中葉，氐人占據了關中，建立了前秦，後來，苻堅做了前秦的皇帝，他任用王猛，打擊豪強、休息民力，使得國勢日益充裕，後來，前秦漸成為北方強大的國家，它先後滅掉前燕、前涼，最終如願統一了北方。
公元382年，苻堅召集滿朝文武官吏，對他們說：“朕做皇帝三十多年了,四方大體上已經平定，隻有東南一角的東晉，不肯聽從命令，朕準備親自率領大軍滅晉，你們看行不行？”
除個別人外，多數大臣都不同意出兵攻晉，認為攻晉不會討得什麽便宜，大家討論了很久，始終不能得出苻堅所希望的結論。
苻堅很不耐煩地說：“這樣議論紛紛，哪能有什麽成果!讓朕自己做決定好了。”
苻堅同他的弟弟苻融單獨商議，苻融指出：前秦的軍隊長期攻戰，士卒疲勞，軍民存在畏懼東晉的情緒，鮮卑人、羌人、羯人布滿長安附近一帶，他們並沒有真正歸順前秦，大軍一旦東下，關中會發生很大的危險。苻融還說，凡是說不可伐晉的人都是忠臣。
苻堅聽了，不高興地說：“怎麽你也會發這樣的議論，真使朕感到失望啊。”
大臣們不斷苦諫，勸他不可攻晉，而鮮卑貴族慕容垂等卻希望苻堅在戰爭中失敗，好趁機恢複前燕的統治，都私下勸苻堅出兵。
在公元383年秋，苻堅派苻融帶領二十五萬人為前鋒，大舉攻晉。前秦的兵力共有步兵六十萬，騎兵二十七萬，這裏麵有鮮卑人、羯人、匈奴人、氐人、羌人，其中大部分是漢人。進軍的聲勢看起來很大，旌旗相望首尾一千多裏，先頭部隊已經抵達淝水附近，而後繼部隊才從鹹陽出發。實際上這是一支七拚八湊，內部很不鞏固的隊伍。
東晉派謝玄、謝石等率領八萬人迎擊秦軍。謝玄、謝石等人決定乘秦軍主力還沒有集結的時機襲擊它的前鋒，一舉擊潰秦軍。他們首先派劉牢之率兵五千在洛澗(在今安徽定遠縣西)打敗秦軍，隨即指揮各路兵馬乘勝前進，直逼淝水右岸，和前秦軍隔河相對。