日本與中國的文化交流自南北朝時期開始。在日本聖德皇太子攝政時，日本結束戰亂，百廢待興。此時，也正逢中國結束戰亂，隋朝一統江山，社會各方麵都逐漸步入正軌，進入繁榮時期。為學習中國文化和科學技術，極具政治遠見的日本聖德皇太子便正式派出遣隋使出訪中國，全麵了解學習中國的政治、社會製度和文化。遣隋使這一開拓性的國際交流活動，先後有四次，得到了隋朝皇帝的認可，並給予了極大便利和優待，使得中日文化交流繁榮起來。
在唐代時，日本進入奈良時代和平安時代。強大而繁榮的大唐對日本來說，無疑具有巨大的吸引力。日本天皇決定延續隋例，繼續學習中國的製度和文化，派出的遣唐使多達十六次，每次包括大使、文書、醫師、翻譯、工匠、留學生等在內的使團成員多達近千人，使中日文化交流達到高峰。最有名的遣唐留學生是阿倍仲麻呂，他在中國留學期間，與李白、王維是至交好友。
在最後一次大規模派出遣唐使後，日本對中國社會政治製度、文化、醫學、科技都已經學習得比較全麵，加上活動浩大，國力負擔沉重，於是終止了這種大規模的國家文化交流活動。但是，中日兩國的民間文化交流與商業來往一直沒斷過。日本國對於中國文化有專門的學科研究，叫做漢學；而把對源自荷蘭的西方文化的研究稱為蘭學。漢學和蘭學並存，一直極大地影響著日本文化，並一直延續到了今天。
現在日本的古典建築、佛學、茶道、花道、書法、圍棋、相撲等都直接學習自大唐，或者受唐朝文化影響。但日本是一個很善於學習和總結的民族，他們將中國的文化和日本文化相結合，逐漸形成了自己獨特的日本文明。這其中，就有源自中國香文化，如今有著濃鬱日本文化特色的香文化——日本香道。