太初元年（前104 年），司馬遷42 歲，有兩件重大的事情正在發生。其中一件是完成於這一年，另一件則是開始於這一年。
完成的那件大事就是太初曆的製定，我們前麵說過，按照陰陽家的說法，人類的活動要與天相應，新朝代的創建就是五行之德輪值的反映。秦自認為屬水，於是所有的製度都與水相配合，包含以十月為歲首、色尚黑、數用六等。
漢朝屬於五行中的哪一種元素呢？文帝時，公孫臣主張屬土，後來在甘肅出現黃龍，確是與土相應，此後就沒有什麽爭論。照陰陽家的說法，土勝水，正好是漢代秦的反映。人們對漢朝屬土已沒有什麽異議，所有人疑問的是什麽時候改製。
這一年是漢武帝行封禪大典後的第7 年，司馬遷、公孫卿等人向漢武帝建議：“曆紀壞廢，宜改正朔。”於是正式進行改曆工作，主辦人無疑是主管天時星曆的太史令司馬遷。最初由司馬遷與公孫卿及其他一些人組成了籌備小組，後來他們發現以他們幾個人的能力還無法完成改曆的推算工作，於是向社會各界招募人才。結果招選了二十多人，其中較重要的人物有鄧平、唐都等，還有一位有如神仙般的隱者。他們是如何工作的，我們不得而知，最後的詔令指示采用鄧平所推算的曆法，又經過了一道複核手續後才終於定案。漢武帝任命鄧平為司馬遷的副手太史丞，他還想任命那位隱者為侍中，可是隱者不接受。
這部太初曆並不隻是把正月定為年首（改正朔）而已，而是在以前曆法的基礎上進行了全盤的改訂，它奠定了我們現在所使用的陰曆的基礎。除了改曆以外，還正式宣布色尚黃、數用五、更官號、協音律。所謂數用五，例如官印要用五個字，丞相印刻成“丞相之印章”。更官號，例如改郎中令為光祿勳等。