張士誠的勢力範圍是全國最富庶的區域，元人不肯輕易放棄這個重要的糧米之鄉，對他是多次招降，而張士誠呢，則是反複不定，與元朝的關係是錯綜複雜。他既利用與元政府建立關係來對抗吳王朱元璋，又不甘心受元人的節製。在公元1363年，張士誠拘禁江浙丞相達識帖木兒，自立為吳王，史稱東吳，以別於朱元璋的西吳，後來達識帖木兒自殺身亡。另外張士誠對紅巾軍起義反感極深，所以對朱元璋是強烈的反對，與朱元璋相鄰的十年當中，是征戰連連。從前陳友諒要張士誠一起夾擊朱元璋，老張不出手。現在，老陳已敗亡，張士誠反倒來了精神。1365年春，他派大將李伯升與朱元璋叛將謝再興一起，率馬步舟師二十餘萬，跨逾浦江，包圍諸全之新城，造廬室，建倉庫，預置州縣官屬，大作持久必拔之計。結果，朱元璋外甥李文忠與大將朱亮祖等人以少勝多，把東吳軍殺得丟盔卸甲，李伯升等人僅以身免。朱元璋指揮若定，麾兵又克泰州，數月後又擊下張士誠的發家之地高郵。
1366年，朱元璋曾經發布了討張檄文，在文中第一次公然指斥紅巾軍起義，將自己與義軍劃清界限，開始為自己建立封建王朝做輿論準備。在檄文當中敘述了朱元璋成功立業的經曆，文中有六層意思，一是元朝失政，氣數已盡，二是起義軍妖惑百姓，實為叛賊；三是為地主官吏組織的民兵和義兵正名；國為自己起兵立名是吊民伐罪，承天治世；五聲討張士誠叛元的行為；六對征服的臣民，順我者昌，逆我者亡，以嚴法製之。朱元璋建立新的皇朝，已經是指日可待的事情了。
就在這一年，徐達與常遇春會師攻淮安，克興化，淮地皆平。五月份，又攻下於朱元璋來講最有象征意義的龍興之地濠州老家。朱元璋親自至濠州，省陵墓，宴父老。宴父老是真，省陵墓嗎，純屬瞎掰。他一家皆葬亂墳崗，席爛土淺，龍鳳之屍早已被野狗吞食，哪裏還找得到。大好形式下，朱元璋集團內部仍不少人高估張士誠勢力，文臣之首的李善長就表示：“張士誠其勢雖屢屈，而兵力未衰，土沃民富，多多積蓄，恐難猝拔。”武將徐達深諳主子意圖，進言曰：“主公如今張氏驕橫，暴殄奢侈，此天亡之時也，其所任驕將如李伯升、呂珍之徒，皆齷齪不足數，惟擁兵自重，貪財好色，以富貴而享樂者。居中用事者，迂闊書生，不知大計。臣奉主上威德，率精銳之師，聲罪致討，三吳可計日而定！”老朱大喜，立命徐達出師。1366年9月，朱元璋以徐達為大將軍，常遇春為副將軍，率二十萬精兵，集中主力消滅張士誠。朱元璋足智多謀，命二將不要先攻蘇州，反而直擊湖州，使張士誠疲於奔命，軍隊既然已經疲勞，然後移兵姑蘇，必定會將其擊敗！有如此偉大戰略家，不勝也難。二將依計，徐達等率諸將發龍江，別遣李文忠趨杭州，華雲龍赴嘉興，以牽製張士誠兵力。諸將苦戰。在湖州周圍，東吳兵大敗，大將呂珍及外號五太子的張士誠養子等驍勇大將皆兵敗投降，其屬下六萬精兵皆降。湖州城中的張士誠司空李伯升本想自殺殉國，為左右抱持不死，不得已也投降。