司馬談預感到“物盛而衰，固其變也”，他為了矯弊，也為了及時地提出警告，所以寫了《論六家要旨》。
《論六家要旨》總括百家學說為六家：陰陽、儒、墨、名、法、道。司馬談在評論中全麵肯定道家使人精神專一，與時遷移，應物變化，遵循自然，隨俗辦事，無所不宜。道家言“無為”又言“無不為”，吸收各家的長處，以“虛無”為本，以“因循”為用，“旨約而易操，事少而功多”。其他五家各有長短。陰陽家言吉凶，“未必然也”；但言春夏秋冬四時之大順，“不可失也”。儒家以“六藝”為教條，繁文縟節，“博而寡要，勞而少功”；但言君臣父子之禮，序夫婦長幼之別，“雖百家弗能易也”。墨家言儉樸，過分吝嗇，尊卑無別，“儉而難遵”；但言強本節用，人給家足之道，“雖百家弗能廢也”。法家不別親疏貴賤，一斷於法，“嚴而少恩”；但言尊主卑臣，職責分明，“雖百家弗能改也”。司馬談的這些評論，把獨尊的“儒術”與罷黜的“百家”等列，論長道短，又獨尊了道家，簡直是離經叛道，因而受到了班彪、班固父子的批評，也引起了後世學者的紛紜爭論。有的人認為司馬遷尊奉黃老學說，以班氏父子之言為經典：“其論術學，則崇黃老而薄五經。”反之，有的論者辟班正名，論證司馬遷是尊儒的。或為折中，說司馬談、司馬遷父子思想異趣，父子分途，司馬談尊黃老，司馬遷崇儒，《論六家要旨》乃司馬談之作，與司馬遷無涉。這些論點，按諸《史記》，各自都能找到立說的論據，但都不符合司馬遷父子之言。
《論六家要旨》是司馬氏父子兩人的共同宣言。首先，《論六家要旨》發表之時，司馬遷已壯遊歸來，成為司馬談述史的得力助手，日漸成熟。再看《論六家要旨》的內容，全文分前後兩個部分。前半篇概述各家學說的要點，當是司馬遷對父司馬談手稿的精言摘要；下半篇是用傳體對前半篇所提論點加以解說，應是司馬遷的發揮和闡釋。因此班氏父子直接把《論六家要旨》當作司馬遷之言加以評論。所以本節標題“司馬氏父子《論六家要旨》”，而不作“司馬談《論六家要旨》”，用意在此。不錯，司馬談、司馬遷父子兩人思想存在著差異，這應當是《史記》內容呈現矛盾性的原因之一。司馬談偏重於崇道，司馬遷偏重於尊儒，表現了兩個時代的人的思想異趣。但是這種差異，並不是兩種思想體係的對立，而是“一家之言”的發展，從偏重道家的色彩轉向偏重儒家。《史記》效《春秋》而作，是司馬談定下的義例。司馬遷拜孔安國和董仲舒兩個儒學大師為師也是司馬談指導的。可見司馬談並非不尊儒。司馬遷評論老子的學說是“無為自化，清淨自正”；評孟子的學說是“迂闊”；評司馬相如的思想是“歸於無為”；譏刺公孫弘而褒揚汲黯、鄭莊，這些都和《論六家要旨》的精神相合。這說明作《孔子世家》的司馬遷並非不崇道。