原一平於1904年出生在日本長野縣，他自小家境富裕。父親熱衷於公共事務，在村中擔任要職，為村民排憂解難，德高望重。
原一平在家中排行最小，年幼時就是一個矮矮胖胖的“小胖墩”,但深得父母的疼愛。或許是備受寵愛的緣故，原一平自小非常頑皮，不愛讀書，喜愛調皮搗蛋，捉弄別人，甚至常常與村裏的小孩吵架、毆鬥。
有一天，原一平閑來無事，便和幾個小夥伴到村裏附近的山坡上玩耍。當時村子裏的多數居民都養了馬，經常在山坡上放牧。原一平帶著小夥伴，手拿著木棒，悄悄跑到馬的後麵。然後用木棒朝著馬屁股用力揮去。馬匹被受驚嚇左蹦右跳，還有的甚至跑到了山穀裏。為此事，父母經常為此向村民賠禮道歉，並嚴厲地處罰他。父母以及村民們都為這個玩世不恭的頑童無可奈何。
在上小學時，父母將其托付給老師要嚴加管教。可原一平本性難移，根本就聽不進老師的教誨。一次，由於原一平在校的行為實在太囂張，老師忍無可忍將其狠狠打了一頓。
至此，原一平懷恨在心，等待報仇的時機。幾天過後，他趁老師不注意，在其身後用小刀劃了幾下，導致老師受傷。此事雖受到嚴重的批評，但是他卻有一種報仇成功的快感。
而此時父親也因他的種種行為不得不辭職，全村的人對這個臭名昭著的頑童痛之至極。並給其取了個“混世魔王”的外號。
他的這種狂傲不羈的性格，被村裏人稱為不可救藥的“小太保”。父母也對他的種種行為不知如何是好。叛逆頑劣的個性使他惡名昭彰而無法立足於家鄉。
見此情況，父母隻好將他寄養在鄰村的親戚家，並在那裏勉強讀完小學。由於他的名聲在村裏太壞，所以無法獲取更好的生存。為此，在他23年那年，原一平離開家鄉，獨自到東京闖**天下。