【昔在顓頊，命南王重以司天，北正黎以司地。唐虞之際，紹重黎之後，使複典之，至於夏商，故重黎氏世序天地。其在周，程伯林甫其後也。當周宣王時，失其守而為司馬氏。……】
——《史記》太史公自序第七十
顓頊統治天下的時候，任命南正重掌管天文，北正黎掌管地理，唐堯和虞舜的時候，又讓重、黎的後代繼續掌管天文地理，一直到商朝。周宣王的時候，重黎氏因為失去官守而成為司馬氏，司馬氏世代掌管周史。周惠王和周襄王的時候，司馬氏離開周的都城，去了晉國，後來又遷居少梁。
自從司馬氏到了晉國以後，族人分居各地。在秦國和張儀辯論的司馬錯，就是司馬氏的後代，而司馬談是司馬錯的後代。司馬談擔任漢朝的太史公，他有個兒子，叫作司馬遷。司馬遷出生在龍門，10歲的時候，就開始學習和背誦古文。20歲的時候，就去了南方，遊曆江準地區，登上會稽山，探察大禹留下的遺跡，還觀覽了九嶷山，在沅水湘水上泛舟。此外，他還渡過了汶水、泗水，去齊國和魯國的都城遊曆，考察孔子故鄉的風俗，在鄒縣、嶧山行鄉射之禮；經過鄱、薛、彭城。再經過梁、楚，回到了家鄉。回到家鄉以後，司馬遷又擔任郎中，奉命西征巴蜀，經略邛、笮、昆明。
元封元年，漢朝天子開始舉行封禪典禮，而太史公司馬談卻被留在洛陽，不能參與這件事。他心中憤懣憂鬱，最後得了一場重病，奄奄一息。此時，恰好司馬遷從巴蜀回來，拜見了父親。
奄奄一息的太史公握著司馬遷的手，哭著說：“我們司馬家的祖先是周朝的太史。遠在上古虞舜和夏朝的時候，就負責掌管天文曆法，而且聲名遠揚，但是後來卻越來越衰落，一直到現在，難道我們司馬家擔任史官的傳統會斷絕在我的手裏嗎?”看著父親瘦削的臉龐，聽見父親傷心欲絕的話，司馬遷心中感慨萬千。司馬談緊抓著司馬遷的手不放，說：“我現在最大的希望，就是你能夠接替我的職位，繼續做太史，延續我們司馬家的傳統，繼承祖先的事業。那樣的話，我就是死了，也不會有什麽遺憾了。”司馬遷哽咽著，看著父親，點了點頭。