司馬遷因李陵之案下獄的次年，也就是天漢三年(前98年)，武帝從一個匈奴戰俘的口中聽說李陵在教匈奴人操練兵馬，打算與漢軍決戰。
他更是怒不可遏，即刻將李陵全家老少統統殺了。城門失火，殃及池魚，獄中的司馬遷也難逃此劫，被處以宮刑。
宮刑又名腐刑，這是上古統治者從閹割牲畜那裡獲取靈感後而發明的一種最殘酷、 最不道德的肉刑。割棄了生殖器，人的生理和心理都遭到極大的破壞，這對於一般人是無法忍受。對於傲骨凜凜的大丈夫司馬遷來說，就更是奇恥大辱，無法忍受了。
司馬遷在《報任安書》中說，世上的侮辱可分為九等，最最羞恥的就是宮刑。受過宮刑的人，是沒有誰願意與之交往的，歷史上就是如此。
他知道衛靈公與宦官雍渠同車，孔子感到羞恥，一怒而逃離了衛國；他知道商鞅靠宦官景監的幫助，見到了秦孝公，大臣趙良為此而寒心；他知道漢文帝乘車，宦官趙談陪乘，大臣袁盎跪在車前勸諫文帝道：「 如今朝廷再缺乏人才，您也不該和一個受過宮刑的人一起乘車啊！」文帝笑著要趙談下了車，趙談傷心地哭著走開了；他也知道……
司馬遷知道的太多了。精通歷史倒成了他的不幸：恥辱更重了，痛苦更深了，悲憤更強烈了。
他的精神確實有些支撐不住了。仰臥坐立，神思常常恍惚不定。出門行走，也不知道要到哪裡去。他想到了自殺，自殺多乾淨，然而他又顧惜自己的一身才氣，更牽掛那部尚未脫稿的《史記》。
是為擺脫恥辱痛快地死，還是為寫《史記》而苟且地活？他苦苦思索著，終於在昏暗的地平線上，他看到了一絲的光亮。
他首先想到了精神的導師孔子。孔子說：「管仲忍辱活下來，輔佐齊桓公，終成霸業，保護了華夏先進的文化，功名永垂，他與那些為了一點信義就上吊自殺的一般男女怎能同日而語呢？」孔子的那部不朽的《春秋》不也正是他在困頓中寫成的嗎？
司馬遷又想到了另一位精神導師屈原，他不也在流放的途中寫就《離騷》的嗎？
他又想到了寫《周易》的周文王，寫《左傳》的左丘明，寫《兵法》的孫臏，寫《呂氏春秋》的呂不韋，寫《虞氏春秋》的虞卿，寫《說難》、《孤憤》的韓非，這些志士仁人或在監獄裡、或在受刑後、或在流放途中、或在失明後的黑暗中，抒發自己的思想情懷，著書立說而流芳百世。
不能這樣白白地死去，大丈夫生在這世上就要干一番事業。白白地死，太不值得了，生命不就如同螞蟻一般的微不足道了麼？於是他悟出了一條永遠顛覆不破的人生箴言「人固有一死，或重於泰山，或輕於鴻毛。」(人總是要死的，有人死得比泰山還重，有人死得比鴻毛還輕）
他以堅韌不拔的英雄氣慨頑強地站了起來，繼續未完成的事業，用自己留下的巨著，贏得世人和後人的承認、肯定、同情、理解、讚美和尊重。這樣就可以補嘗受辱不死的罪責了。忍辱負重是為了著書，又終將以著書而清洗了恥辱。
古人說：「非死者難，處死者難」。意思說，死並不難，難的是如何對待死。一個人臨大節，臨大義，非死不可，從容就義，或引頸自決，這是偉大的壯烈之舉，司馬遷讚美這種人這種事。如光復齊國社稷的理想破滅後，田橫五百士為不失義節，全都跳海自殺，司馬遷就慨嘆說：「豈非至賢？」
然而自殺又不完全是勇敢者的舉動。有人為一己之私利，或為一己之私情，服藥跳崖、上吊投水，其事確實可憐甚至可嘆、可悲。但這並算不上壯舉，因為他們的自殘自殺往往是心胸狹窄、膽怯懦弱的表現和結果。
他們看輕了生命的價值，否定了生命的價值，他們死得不得其所。
世上最勇敢、最偉大、最有作為的人，應該是將不朽的事業置於生死之外而隱忍苟活的人。
司馬遷正是這種偉大的人！