1294年忽必烈去世後，元朝水師逐漸沒落。繼任的鐵穆耳停止了對日本和安南的遠征，盡管1304年有傳言日本計劃入侵中國，但元朝對海防並未上心。[1356]海防艦隊力量被削弱，忙兀台要負很大責任。正是他最先開始讓陸軍加入海戰演練，而水軍則參與地麵作戰。忽必烈也因此訓斥過他：“以水路之軍習陸路之伎，驅步騎之士從風水之役，難成易敗，於事何補？”[1357]
朝廷並未重視忽必烈這個明智的忠告，未采取措施進一步阻止水師的敗落。至14世紀中期，官員王思誠曾上書指出，忽必烈在位時，朝廷有四十餘艘海仙鶴哨船於海運路線往來巡邏，而如今(1350年)這種船隻剩十幾艘，更有甚者，這些船實際並不出海，閑置在劉家港，任由海寇在岸上猖獗。
他又提到，戰船上的水手與港口的婦人成婚後，不願離家出海巡邏。他提議，為增強海防，水軍不得與當地婦女成婚，艦隊每年應當巡遊兩次，外國商人的船舶在海上錨泊接受檢查。[1358]朝廷許多大臣十分讚同王思誠的建議，但當時水師的情形已經腐敗到了無可挽救的地步。
海寇猖獗
元廷放任水師衰敗不管，導致海防鬆懈，海寇趁機侵擾船舶，洗劫東海沿岸的富裕市鎮。其中就有來自日本的倭寇。元軍出征日本後半個世紀，日本再次陷入內戰，經曆了北條攝政時期、後醍醐天皇發動的建武新政時期、室町幕府時期以及南北朝時期。
至14世紀中期，高麗每年都受到倭寇侵擾。倭寇的人數一年比一年多，情況越來越嚴重，到1363年，倭寇居然出動了263艘船洗劫高麗沿岸。[1359]他們一直掃**至中國的山東沿岸，[1360]1363年在蓬州被沿海守將劉暹率領的元軍擊退。[1361]
元朝後期，苦於國庫緊張，糧食短缺，課稅越發沉重，讓本已處在水深火熱中的百姓更加苦不堪言。黃河、長江之間的地帶，湖北、浙江的農民起義此起彼伏，而朝廷的糧食、歲入大部分都來自這些地區。目無法紀的情況越來越嚴重。靠販賣私鹽營生的張士誠在江蘇得勢，不僅占領了產糧的中心地區，還控製了京杭大運河的下遊段。[1362]