公元9世紀的最後一個十年，日本的最後一個遣唐使歸國，中日官方之間的海上通路斷絕。進入公元10世紀後，崛起的契丹阻斷了中原與日本的貿易通路（當時雙方通過朝鮮來往），此後更發生了女真人和契丹人襲擊北九州的“刀伊入寇”事件，日本和東亞大陸的交流遂徹底斷絕，日本自此脫離了文化和技術輸入方的身份，從“唐風時代”進入了“和風時代”。
日本刀劍也開始了獨立的發展曆程，並形成了一套獨一無二的鍛造技術、刀劍文化以及劍術，我們所說的“日本刀”至此才正式誕生。12世紀末，源賴朝開創鐮倉幕府，出任首任“征夷大將軍”，武士階級正式形成，日本正式進入長達七百年的武士統治時代，腰懸二刀（太刀、肋差）成為武士階級的特權和象征。
盡管武士刀是統治階級的特權和象征，但是和世界上其他地方一樣，日本冷兵器時代的戰場主宰也是弓箭和長槍，刀劍從來就不是日本列島上戰爭的主角，而多是作為輔助武器和防身武器存在的。雖然日本武士從小就進行嚴格的劍術訓練，但即使在無日不戰的戰國時代，戰場上由刀劍造成的死傷也隻有一成左右。
然而，武士刀的意義早已從武器範疇上升到文化層麵，而且圍繞著日本刀和武士階級形成了一係列獨特的禮儀和文化，使得刀對於武士階級的意義遠在作戰之上。比如，日本道路的交通規則同英國一樣，至今都是靠左行走，因為日本武士的大小二刀佩帶在左邊，靠左行走可以避免與對麵走來的武士的刀鞘相撞而引發不必要的打鬥，遇到危險時也可以在電光石火的一瞬間拔出刀來。
由於日本人不會像西歐人那樣在砍人前說些諸如“先生，您冒犯到我了，向我道歉，否則單挑”之類的話，所以對日本武士而言，先下手為強尤為重要。在當時的日本，一個不經意的動作、一個眼神乃至無意的一瞥，都可能讓神經質的過路人突然拔刀探索一下你的身體結構，因此，靠左行走的重要性便不言而喻了。此外，在進入他人住宅的時候，武士要在玄關把刀解下，並用右手提著進入室內，表明自己沒有動刀的意思。這本來是一種為避免無謂爭鬥和死傷而形成的習俗，然而，事情總有例外。