公元前99年，漢武帝由於匈奴扣押了漢朝使臣蘇武等人，派貳師將軍李廣利率領三萬騎兵，前去攻打匈奴，但是，他這次卻打了個打敗仗，差點兒全軍覆沒，李廣利逃了回來。李廣利的孫子李陵當時擔任騎都尉，帶著五千名步兵跟匈奴作戰。單於親自率領八萬騎兵團團圍困住李陵的步兵。雖然李陵的箭法精準，手下的兵士也都驍勇善戰，他所率領的五千步兵殺了五六千名匈奴騎兵，但是匈奴兵卻越來越多，最終，漢軍寡不敵眾，後麵又沒有援兵，最後隻有四百餘名兵士突圍出來。李陵被匈奴逮住，投降了。
李陵投降匈奴的消息傳到朝廷之後，整個朝廷都為之震動。漢武帝便將李陵的母親和妻兒都下牢問罪，並且召集群臣，討論李陵所犯下的罪行。
大臣們都指責李陵不該貪生怕死，向匈奴投降。當漢武帝問到太史令司馬遷的時候，司馬遷說：“李陵所帶去的兵士不過五千人，他深入到敵人的腹地，打擊了幾萬敵人。雖然他此次打了敗仗，但是卻殺了如此多的敵人，也能夠給天下人一個交代了。李陵不肯馬上去死，我認為他一定有自己的苦衷，他肯定心中還想著日後將功贖罪來報答皇上。”
聽了司馬遷這番話，漢武帝認為他這是為李陵辯護，是有意貶低貳師將軍李廣利（李廣利是漢武帝寵妃的哥哥），勃然大怒，說：“你如此為投降敵人的人辯解，豈不是有心要違抗朝廷嗎？”於是，漢武帝一聲令下，就讓人將司馬遷拉下去，關到監獄之中，交給廷尉審問。
審問最後的結果，給司馬遷定了罪，應該受腐刑（一種破壞**的刑罰）。司馬遷家中無錢贖罪，隻好受了這恥辱的刑罰，關在監獄裏。
司馬遷認為受腐刑乃是一件極其恥辱的事情，他曾經為此想到自殺。但是，他想到自己有一件十分重要的工作還沒有完成，不能就這麽死掉。因為當時他正在投入全部的精力來寫一部史書，這就是《史記》。