明成祖即位之初，倭寇在沿海地區還不時騷擾，中日間沒有任何官方往來。
元世祖忽必烈曾對日本大舉發兵征討，因遭暴風而全軍覆滅。明王朝建立後，朱元璋遣使赴日通好，日本國王遂遣使來華，奉表稱臣，兩國間的邦交關係遂得以恢複。朱元璋還以“祖訓”的形式，將日本列為十五個不征國之一。
日本海盜自元代起就不斷到中國沿海搶劫，明初亦然。中日邦交恢複後，日本不斷將這些海盜送回中國，聽中國懲治。中國稱這些日本海盜為倭寇。有時，日本還將被倭寇擄掠的中國人送回。
但這種友好的關係並沒維持多長時間。洪武十三年(1380),丞相胡惟庸以謀反罪伏誅。朱元璋了解到胡惟庸曾“欲借日本為助”,因此，“怒日本特甚，決意絕之，專以防海為務”。明太祖朱元璋曾一度想發兵討伐日本，但鑒於元朝征日本失敗的教訓，才未對日本用兵。
明成祖即位時，中日間斷絕邦交已二十餘年。其間，倭寇不斷在中國沿海騷擾和搶劫。明成祖決心要改變這種狀況。
明成祖於建文四年(1402)九月七日便遣使以即位詔諭日本。永樂元年(1403)九月，明成祖遣左通政趙居任、行人楊洪偕同僧人道成一起出使日本，還沒有出發，日本貢使已到寧波。明成祖聽說後很高興，知道上年的出使已收到成效。
但是，在日本貢使附帶的私物中有刀槍之類的兵器，違犯了中國的禁令。禮部尚書李至剛奏請“籍封送京師”,明成祖為懷柔遠人，改善與日關係，未予治罪，反而命官府出錢將這些刀槍買下。
日本貢使這次來華，中斷了二十餘年的中日邦交得到了恢複。從此以後，兩國使節往來不斷，關係日趨融洽。
永樂二年(1404),明成祖冊立長子朱高熾為皇太子，日本特遣使臣來賀。明成祖借此機會諭其國王，要日本逮捕那些經常在海上作亂的海寇。日方很重視此事，認為倭寇的行為妨害了兩國關係的發展，遂“發兵盡殲其眾，係其魁二十人，以(永樂)三年十一月獻於朝，且修貢”。明成祖對日本這樣做十分讚賞，特遣鴻臚寺少卿潘賜和中官王進一起出使日本，對日本國王大加賞賜。