司馬懿生於漢靈帝光和二年，也就是後世紀元的公元一百七十九年，比馬超小了一歲。是東漢潁川太守司馬儁之孫，司馬防之子，是潁川名門司馬家最小的一輩兒。
司馬防一共生有八個兒子，既是後來名動四方的“司馬八達”。其中，司馬懿排行第二，按照長幼順序，司馬防給他起了仲達的表字。
司馬懿年少之時，便胸懷謀略，言行皆異於同齡之人。時任南陽太守的楊俊，素以知人善任而著稱。楊俊在第一次見到司馬懿的時候就曾斷言：聰慧果斷，英姿不凡，久後必非池中之物。
少年時期的司馬懿，拜入當時在潁川隱居的名士胡昭門下，跟隨胡昭學習各種本事。後來因為年少輕狂，司馬懿得罪了同郡的周生，被周生網羅人手所陷害，流落到了崤山一帶，幸得胡昭不遠千裏趕來，在澠池攔住了周生，動之以情曉之以理，一番哭訴之後，總算是把司馬懿給解救了出來。
沒想到剛被自己的老師解救，司馬懿便又感覺到了新的危機！那種如芒在背的危機感，令他有些心慌。連忙拉著老師胡昭離開了崤山，一路快馬加鞭的趕向了潁川。
或許，冥冥之中自有天意，司馬懿此刻理當命不該絕。
崤山無論是距離潼關，還是距離函穀關，其實都並不遠。馬超部下的探馬耳聰目明，若是馬超提前特意叮囑，或許探馬們就能發現司馬懿的蹤跡了。可惜的是，馬超並不知道此刻的司馬懿竟然流落到了崤山之間，因此並未對探馬們有過特意的吩咐，陰差陽錯之下，司馬懿便這樣神不知鬼不覺的在馬超的眼皮子底下溜走了。以至於多年之後，馬超每每想起此事來，都要痛恨自己未能及時發覺司馬懿的行蹤，白白錯失了一個大好的機會，令司馬懿此後日漸羽翼豐滿，成了馬超日後最強勁的對手之一。