自從孫恩起兵以來北府軍推進的速度很快，從京口出兵，擊斬賊將許允之等，直渡錢塘江，一直打到吳郡（今蘇州市）。初來乍到，敵兵虛實不清，劉牢之命劉裕率一支數十人的小分隊前往偵探義軍的行動。行軍途中，正好與孫恩的數千人馬狹路相逢。小分隊的人心裡害怕，多有退縮之意。
劉裕大喝：「敵眾我寡，即使撤退，敵人的騎兵也會追上來，到時我們一個也跑不了，與其逃走而死，不如戰死。」說罷，揮舞手中長刀，如猛虎般殺向敵陣，隨行兵士不甘示弱，緊隨其後，殺向義軍。
孫恩的軍隊沒有經過訓練，乃烏合之眾，加之劉裕和他的小分隊來得突然，烏合之眾亂了陣腳，連連後退。可畢竟人家有幾千人，雙方兵力懸殊，經過短暫的騷動，孫恩的軍隊逐漸穩住了陣腳，反過來將劉裕的小分隊團團圍住，玩起了貓戲老鼠的遊戲。
劉裕和他的士兵雖拼命搏殺，無奈兵力懸殊，陷進敵陣後，左衝右突，就是殺不出來，不一會兒，數十名隊員死的死，傷的傷，只剩劉裕一個人在戰鬥。眼看即將全軍覆沒，突然一隊人馬從外圍衝進來，殺開了一條血路。「來得好！」劉裕大喝一聲，奮起神威，連殺了幾個敵人，逃出重圍。
原來，劉敬宣在軍中見劉裕久去不歸，擔心其被義軍所困，便率兵尋找，聽到前方有喊殺之聲，登高一看，正好看見劉裕孤身一人手持長刀驅殺數千敵兵的壯觀場面，將士們大為嘆息，一齊拍馬殺向敵陣，大破義軍，斬獲千餘人。
孫恩的隊伍見北府兵大隊人馬殺來，紛紛潰散。劉裕大叫：「非弟來援，我命休矣！」
劉敬宣：「小弟在軍中，見兄久去未歸，故帶兵尋來，見前面塵土飛揚，有喊殺之聲，知道賊兵猖獗，兄必受困。急忙趕來，果見兄獨舞大刀，一人獨戰數千人。兄之勇，關、張再世也不及啊！今賊兵已退，我們趕快回營吧！」
劉裕大叫：「賊膽已落，乘勝追擊，必大獲全勝。」劉敬宣從之，率兵乘勝追擊，大獲全勝。
孫恩見大勢已去，故技重演，再度逃到海上去了。劉牢之收復山陰。
劉裕在其軍事生涯中的第一次作戰，便憑著勇猛的精神以少勝多，取得了輝煌勝利，也在軍事史上寫下了傳奇的一筆。
東晉朝廷任命劉牢之督會稽五郡軍事，屯兵上虞。劉牢之命劉裕率一支部隊鎮守句章（今浙江寧波市南），構築第一道防線，浙東重新被晉軍控制。
孫恩不可能長期待在海島上不出來。東晉元興元年（402年），孫恩第三次率義軍捲土重來，自浹口登陸，攻句章。
句章是一座小城，劉裕兵不滿千人。作戰中，劉裕披堅執銳，帶領守軍拼命抵抗，每戰必身先士卒，衝鋒陷陣，把孫恩的軍隊拒於防線之外，難越雷池。孫恩見句章久攻不下，便避開劉裕，率水軍北上轉攻海鹽。
當時晉軍軍紀混亂，士兵暴掠，百姓為其所苦，只有劉裕所率的部隊號令明整，所到之處，甚得百姓擁護。此時的劉裕，甚得劉牢之的賞識。
不久，孫恩攻打海鹽。劉裕率兵火速趕到海鹽，在當地舊城之上加固城牆，修築工事，嚴陣 以待。
孫恩的海軍抵達杭州灣，他不知道劉裕已先期到達，貿然發起進攻，遭到劉裕軍的猛烈反擊，立即潰不成軍，大將姚盛被殺。孫恩大怒，仰仗人多，輪番向海鹽城發起進攻。
海鹽城中兵少，眼見破城在即。劉裕卻唱了一曲「空城計」，夜間讓士兵偃旗息鼓，把精銳部隊埋伏在城門四周，派幾個老弱殘兵登上城牆晃悠。
孫恩的人馬覺得有些不對勁，捉了幾個百姓，詢問劉裕在哪裡。百姓們回答：「劉裕昨天晚上逃跑了。」
孫恩軍輕信其言，爭相入城。劉裕乘其不備，突然率兵殺出，擊潰孫恩的部隊。孫恩知道，只要有劉裕在，城不可破，於是率兵北上，攻打滬瀆（今黃浦江下游）。
劉裕馬上放棄海鹽，率部追擊孫恩。不料一個人強行攪局，壞了好事。此人便是海鹽令鮑陋的兒子鮑嗣之。
鮑嗣之立功心切，要求率一千吳兵打先鋒。
劉裕不同意，說道：「賊兵精銳，吳人不習戰，若前軍有失，這仗就沒法打了。你們跟在大軍後面造造聲勢吧！」
鮑嗣之不樂意了，心想：就你們京口人能打仗，吳人就不會打仗，只配跟在屁股後面搖旗吶喊？想當年夫差稱霸中原的時候，有京口這個地方嗎？於是說:「別小瞧我們吳人，這個先鋒我是當定了。」
劉裕無奈，只得讓鮑嗣之率部為先鋒，但他知道鮑嗣之不行，提前在各處要道埋下旗鼓伏兵，每一處少則幾人，多則幾十人，只是虛張聲勢而已。
第二天，鮑嗣之率部與萬餘人的農民軍相遇，兩軍剛交上火，劉裕設下的伏兵齊出，舉旗擊鼓，虛張聲勢。孫思以為中了埋伏，慌忙退兵。鮑嗣之以為孫恩就這兩下子，也不與劉裕打招呼、率部追擊。劉裕只得隨後跟進。
孫恩見甩不脫官軍，只得回軍接戰。鮑嗣之憑一時之勇，未曾想到孫恩退兵實乃劉裕布下疑陣、伏兵搖旗吶喊虛張聲勢所致，還以為自己有多了不起。一旦與數倍於己的農民軍激戰，他才知道自己是那麼不堪一擊，可悔之晚矣。在農民軍的重重包圍之中，鮑嗣之率部左衝右突，就是沖不出重圍，部屬越戰越少，最終全部戰死。
劉裕見大勢已去，且戰且退。孫恩乘勝追擊。劉裕所部死傷大半，退至伏兵處，劉裕命部下脫取死者的衣服，以示閒暇。
農民軍忽見劉裕的部屬停止不退，且還平靜地脫死者衣服，疑有伏兵，不敢前進。劉裕乘農民軍遲疑之際，大呼而戰，士氣高漲。農民軍以為中了埋伏，引軍退走。劉裕則率部徐徐而歸。
五月，孫恩攻克滬瀆，殺守將袁崧，殲滅晉軍四千餘人，取得自山陰之戰後的又一次勝利。趁此餘威，孫恩盡遣主力，率軍逆流而上，轉攻丹徒。朝廷震駭，內外戒嚴，派兵守衛石頭城、秦淮河入口處以及長江南岸和白石等要塞，急令劉牢之自山陰回兵堵截孫恩。
劉牢之的部隊遠在山陰，大部隊行動遲緩，遠水難救近火，於是命令劉裕率一支精兵先行，自海鹽馳援京師。劉裕得到急令，挑選一千多名精兵，輕裝簡從，從海鹽出發，日夜兼程，一路急行軍，先孫恩一步抵達丹徒。
孫恩萬萬沒有想到，死對頭劉裕竟然跑到前面去了。從海鹽轉攻丹徒，為的是避開劉裕，可到達丹徒後，迎接他的仍然是劉裕，一陣兜頭痛擊，孫恩軍霎時潰散，孫恩率餘眾敗走郁州。
東晉朝廷見劉裕屢建奇功，提拔他為下邳太守。劉裕受命後，率具直■郁州，討伐孫恩。
劉裕有了兵權，可以單獨指揮部隊作戰，軍事天才得到充分展示，率兵追殺孫恩的部眾。
孫恩難以在郁州立足，只得棄郁州，登船沿海南下。劉裕率步、騎兵沿海跟蹤南下，在滬瀆、海鹽地區追上孫恩，大敗起義軍，斬、俘孫恩部眾數萬人。
孫恩無力扭轉敗局，只得率眾自浹口登船，退守舟山群島。孫恩兵敗後，擔心北府兵追殺他，惶惶不可終日，在臨海投水自盡。孫恩死後，其妹夫盧循率義軍餘部仍然堅持戰鬥，逃亡途中，被殘部推舉為主。
東晉戰禍連年，王恭、桓玄、孫恩先後起兵，整個江南大地瀰漫著戰火的硝煙，不僅百姓苦不堪言，甚至朝廷官員的基本生活也得不到保障。
時局動盪不安，把持朝政的司馬元顯卻沉浸在平定王恭和孫恩的勝利喜悅中。他對高門士族極具排斥心態，集聚在身邊的多是一些庶族人物，阿諛奉承之輩將司馬元顯吹捧為時之英傑，風流名士。司馬元顯更是飄飄然，橫徵暴斂，搜刮民財，富有程度超過帝王。
荊州刺史桓玄盤踞在長江中上游的軍事重鎮荊州，在朝廷全力對付孫恩的時候，乘機擴張勢力。聽說孫恩大軍逼近建康時，立即集結軍隊，上表朝廷，請求發兵勤王。
司馬元顯知道桓玄醉翁之意不在酒，不敢引狼入室，下詔嚴禁桓玄出兵。桓玄見以勤王的名義出兵這條路行不通，於是公然扯起反旗，統領荊、江八州兵馬，揮戈東下，直逼建康。途中收留了盧循及其殘部，授盧循為永 嘉太守。
晉安帝得知桓玄起兵造反，命司馬元顯為驃騎大將軍、征討大都督，調兵征討桓玄，並命劉牢之為先鋒，劉裕為參軍，命大軍即日出發。
大軍走到歷陽，正好與桓玄的軍隊相遇。桓玄請劉牢之的族舅何穆充當說客，勸劉牢之歸附於他。
劉牢之本來對司馬元顯就不滿，加之何穆的花言巧語，同意歸附桓玄。其實，他也不是真心歸附桓玄，而是有自己的小算盤：打算利用桓玄先除掉司馬元顯，然後再除掉桓玄。
劉牢之的兒子劉敬宣、外甥何無忌以及參軍劉裕極力勸阻，認為桓玄狼子野心，如董卓再世，同這種人為伍，無異於刀口上跳舞，沒有好下場。劉牢之不聽勸告，自信地說：「難道我不知道這個道理嗎？消滅桓玄易如反掌，如果先掃平了桓玄，你讓我如何對付司馬元顯？」
四月十五日，劉牢之派兒子劉敬宣前往桓玄處，表示歸降。手擁強兵，身坐大鎮，劉牢之竟出此下策，可謂自取滅亡。
北府軍投降，桓玄率水師大舉東進，直逼東晉都城建康。司馬元顯雖為大都督，其實是一個繡花枕頭，中看不中用，見荊州兵大舉攻城，毫無抵抗之力。桓玄的軍隊幾乎兵不血刃就進了建康城。
桓玄大軍進入建康城，斬殺了司馬元顯、司馬尚之、庾楷、張法順等人，廢掉司馬道子。白痴皇帝下詔，以桓玄統領文武百官，掌管國政。
桓玄主國，東晉重回到高門士族與皇權共天下的局面，但桓玄並不滿足於現狀，他要改朝換代，登上帝王寶座。為實現這一目的，掌握北府兵權的劉牢之便成為心腹之患。於是，桓玄任命劉牢之為會稽內史，離開北府。實際上是削去劉牢之的兵權。
劉牢之知道大禍臨頭，詢問兒子敬宣，怎麼辦好？劉敬宣主張立即起兵，奮起反抗，襲擊桓玄。劉牢之猶豫不決，私下又約見劉裕，說：「我們去廣陵，聯合高雅之，舉兵匡扶社稷，你能和我一起去嗎？」
劉裕回答得很乾脆：「將軍手握雄兵數萬，不能討叛，望風而降。桓玄新近得志，威震天下，朝野人心都已歸附，對將軍失望透了，廣陵你到得了嗎？至於我嗎，現在只有脫去軍裝，回京口老家了。」說罷，起身離去。
劉牢之的外甥何無忌也無意追隨劉牢之，尾隨劉裕走出營帳，問道；「我怎麼辦？」
「劉牢之目光短淺，必不免於禍，你可隨我回京口。桓玄如果守臣節，我們不妨去投靠他；如果有異心，我們就除掉他。」
何無忌點頭稱是，隨劉裕去了京口，對劉牢之連招呼也沒有打。劉裕判斷得非常準確，當劉牢之召集北府兵將領商議討伐桓玄之策時，根本就沒人擁護他。參將劉襲說得更刻薄：「最不能做的事情就是造反，將軍往年反王恭，近反司馬元顯，現在又要反桓玄，一人三反，何以自立？」眾將領聞言，一鬨而散。
劉牢之見人心已散，自己成了孤家寡人，派兒子去京口接家眷。劉敬宣有事在路上耽擱了，超過約定時間還沒有回來。劉牢之以為謀反的事情敗露，慌忙帶著幾個家丁往北逃，路上思來想去，覺得前途無望，萬念俱灰，夜間乘人不備之時，在林子裡找了一棵歪脖子樹，上吊自盡了。可憐在淝水大戰中殺得苻堅魂飛魄散的一代虎將，就這樣窩窩囊囊地做了吊死鬼。
劉敬宣趕到，見老父已自掛東南枝，來不及哭喪，便逃往山陽去了。
劉裕深謀遠慮，回京口老家並不是要做一個本分的農民，而是靜待時機。他一眼看穿桓玄篡逆之心，也料定桓玄必定會任用自己，同時，他也很清楚，只要桓玄陰謀敗露，自己就有機會。
沒過多久，桓玄果然派人至京口，請劉裕出山，用為桓修的中書參軍。桓玄為何想到劉裕呢？道理很簡單，劉裕是一員猛將，狡兔未盡，走狗不能少。劉裕審時度勢，決定暫時投靠桓玄。
永嘉太守盧循表面上雖然聽命於桓玄，暗地裡卻派黨羽徐道覆偷襲東陽。劉裕得到情報，立即率兵截擊，殺退了徐道覆，取得東陽、永嘉大捷，迫使盧循實行戰略轉移，南下番禺，新建根據地。
元興三年（404年）十二月，桓玄篡位，把晉安帝廢為平固王，並將都城遷往尋陽，改國號楚，建元永始。
桓修是桓玄的堂兄，桓玄命他入朝見駕。劉裕是桓修的中書參軍，只得隨同桓修謁見桓玄。
桓玄對他們相當客氣，對身邊的司徒王謐道：「劉裕風骨非凡，確是當今人傑啊！」王謐乘機獻媚道：「上天特意把劉裕賜給陛下，就是讓他前來輔佐新朝啊！」桓玄聽了，更加歡喜，每逢宴會，必召劉裕前來，殷勤款待。
桓玄的皇后劉氏有鑒人之明，曾躲在屏風後偷看劉裕，見劉裕相貌魁奇，料定此人非等閒之輩，對老公說：「劉裕龍行虎步，氣度不凡，朝中所有人，沒有人能比得上他，此人不可不防。」
桓玄說：「我也覺得他氣度不凡，是個人才，所以對他格外優厚，想讓他知恩圖報，效忠於我。」
劉氏說：「妾見他器宇深沈，未必會甘為人下，不如趁早除掉他，免得養虎為患！」
桓玄慢騰騰地回答：「我正要平定中原，只有劉裕這樣的人才英武可用。等平定關洛之後，再除掉他也不遲嘛！」
劉氏著急地說：「恐怕到不了那個時候啊！」
桓玄不聽劉氏的勸告，仍讓桓修回去鎮守丹徒。
桓修想邀劉裕一同回丹徒。劉裕裝作很痛苦的樣子說：「不行啊！我舊傷復發，不能騎馬。大人你走陸路，我走水路。」桓修信以為真，騎馬走陸路返回丹徒去了。
劉裕則和何無忌一同乘船返回，途中二人密謀興復晉室，制訂了討伐逆賊的計劃，返回京口後，便分頭行動。
魏晉以來，實行九品中正制的選官制度，選拔人才的標準是家世、品德、才能並重。初時這種制度確實起到了選拔人才的作用，但到後來，官吏的選拔權逐漸被世家大族壟斷，形成了「上品無寒門，下品無士族」的門閥制度，成為士族地主操縱政權的工具。即便是不可多得的人才，軍功再高，也不能成為方面大員；文才再好，最多也只能做郡府的幕僚。
東晉孝武帝為了加強皇權，司馬道子為了對抗士族門閥，陸續起用一些下等士族、庶姓寒人。桓玄篡晉建楚國，把這些寒士好不容易看到的一點希望的火焰徹底地澆滅了。
桓玄稱帝後，不僅變得驕奢昏庸，而且仍然戰爭不斷，老百姓對此已非常厭倦。劉裕看清了形勢，策劃反桓行動，拉開了平定桓玄之亂的序幕。
劉裕「倒桓」，其實是一場下等士族和庶族地主對門閥士族的奪權運動。劉裕承認自己起自草莽，他曾對寒士青州主簿孟昶說：「草澤間，當有英雄起，你聽說過嗎？」孟昶脫口而出：「當今的英雄，除了閣下，還有誰啊！」劉裕大笑，隨之與他一同謀划起兵事宜。
除了孟昶，劉裕還想到了劉毅。劉毅字希樂，漢高祖劉邦的同鄉，祖上做官，屬下等士族。劉毅少有大志，不修產業，官拜青州刺史參軍，住在京口，與劉裕、何無忌都很熟稔。
何無忌是劉牢之的外甥，同劉裕、劉毅一樣，少有大志，遇事敢想敢說也敢幹，屢次鼓動劉裕舉兵造反，成為劉裕武裝政變的主要骨幹力量。
劉裕回到京口，立即派何無忌前往拜訪劉毅。何無忌見到劉毅，直奔主題：「桓氏勢力正旺，難以圖謀吧？」
劉毅不以為然地說：「天下自有強弱，如果失道，強大也會變成弱小，缺的只是領頭人。」
何無忌反問：「天下草澤之中，難道就沒有英雄嗎？」劉毅：「有啊！以我之見，劉裕就是一個英雄。」二人心有靈犀，相視一笑。
經過周密研究，劉裕準備在京口、廣陵、歷陽三處同時起兵：劉裕的弟弟劉道規是青州中兵參軍，劉裕便讓孟昶回青州，囑咐劉道規謀殺青州刺史桓弘，在廣陵起兵；劉毅前往江北，約同豫州左府軍參軍諸葛長民，伺機刺殺豫州刺史刁逵，在歷陽起兵；劉裕與何無忌刺殺桓修，在京口起兵。他一面又致信建康友人王元德、辛扈興、童厚之等人在京城建康為內應。計議妥當，大家分頭行事。
第一撥起事的有一百多名義士，其中骨幹有二十七人，除何無忌、劉毅外，還有如下一些人：劉道憐（劉裕之弟）、魏詠之、魏欣之（詠之弟）、魏順之（欣之弟）、檀憑之、檀祗隆（憑之弟）、檀道濟（憑之叔）、檀范之（道濟堂兄）、檀韶（憑之從子）、劉藩（劉毅堂弟）、孟懷玉（孟昶族弟）、向彌、管義之、周安穆、劉蔚、劉珪之（蔚堂弟）、臧熹、臧寶符（熹堂弟）、臧穆生（熹義子）、童茂宗、周道民、田演、范清。
軍事政變是掉腦袋的事，沒有犧牲精神和信仰的支撐，是很難做到的。孟昶欲散盡家財資助軍糧，回家對妻子周氏說：「桓公看不起我，使我一生潦倒，我決非當賊，你與我離婚吧！如果起事成功，有了富貴，我再迎你進門。」
周氏道：「父母在堂，你想做大事，我一個女人勸不了你。事若不成，我在家裡孝敬父母，撫養兒子，絕不回娘家。」孟昶聽了，默不作聲。
「知道了，你不是來和我商量的，是想要家中的財產，是吧？」周氏指著懷裡剛出生的兒子說，「除懷裡的兒子不能賣，家裡其他的財產，你全拿去吧！」
何無忌回到家裡，躲在屏風後面起草檄文，母親劉氏踩著板凳偷看。劉氏是劉牢之的姐姐，常想著要為弟弟報仇，發現何無忌要造反，淚流滿面，摸著兒子的頭說：「我肯定比不上東海呂母，你能報仇，我無恨事了。」
人如果抱必死之決心，力量是巨大的，哪怕只有二十七個人。
元興三年（404年）二月，劉裕以打獵為名，集合一百多人首先在京口起兵。何無忌身穿傳詔服，詐稱朝廷使臣，率眾湧進京口城。桓修絲毫沒有覺察死亡已經降臨，以為真是上差來了，毫無防備，見面連話都沒有說人頭就落地了，下刀的人便是何無忌。
何無忌殺了桓修後，一聲令下，部眾大呼討逆，桓修的部下驚駭不已，霎時潰散，沒人敢反抗。劉裕占領丹徒後，安撫百姓，並將桓修安葬於城外。劉裕突然想起一件事，便問何無忌：「我們要幹大事，急需一個主簿處理一些文案方面的事情，到哪裡去找這樣的人？」
何無忌應聲而答：「沒有比劉道民（劉穆之的小名）更合適的人了。」
劉裕會心地笑了，因為他也想到了劉道民這個人。於是命劉穆之為府主簿，並讓劉毅前往廣陵，囑咐孟昶、劉道規即日響應。
孟昶與劉道規立即殺掉桓弘，渡江前往丹徒，與劉裕會合。徐州司馬刁弘聽說丹徒發生了變化，率大隊人馬馳援丹徒，來到丹徒城下，列兵布陣，讓人衝著城頭上大喊：「我們是徐州兵，快打開城門，我們要進城！」
丹徒城義軍只有百餘人，雙方兵力懸殊。劉裕並不慌張，登上城頭，神色從容地沖城下大喊：「郭江州已侍奉皇帝在尋陽重建大晉國，我們奉旨除賊，現桓修已誅，你們都是大晉臣民，無故帶兵到此，到底想幹什麼？」
晉安帝退位後，居住在尋陽，劉裕說江州刺史郭昶之復興晉國，雖然是一個謊言，但卻有很大的欺騙性。刁弘果然被劉裕唬住了，信以為真，連忙收兵退走。
正在這時，劉毅、劉道規、孟昶等率一千人馬趕到。劉裕當即令劉毅率兵追殺刁弘。不久，劉毅回來報捷。
劉毅寫了一封信，派周安穆送往在京中的哥哥劉邁處，請他為內應。劉邁此時被桓玄委任為竟陵太守，正準備上任，接到弟弟的信，舉棋不定。周安穆見劉邁猶豫不決，擔心他出賣自己，不敢在京城逗留，連夜返回丹徒，也沒有去王元德、辛扈興、童厚之等處報信。
劉邁準備前往竟陵赴任，突然接到桓玄派人送來的信，信中說：「北府人情云何？卿近見劉裕，何所道？」意思是說他對劉裕的近況不怎麼了解，要劉邁赴任後，注意搜集並稟報劉裕的情況。
劉邁做賊心虛，以為桓玄已發現他與劉裕合謀起兵之事，不敢登船起程，第二天一大早便入朝，向桓玄說出了劉裕謀反的事情。
桓玄大吃一驚：「你是怎麼知道的？」劉邁：「昨天，劉裕派周安穆來找卑職，要卑職為內應，被卑職拒絕了，故而知道劉裕已反。」
桓玄聽說劉裕已經起兵發難，十分驚訝，忙任命劉邁為重安侯。劉邁退出之後，有人對桓玄說，劉邁既然前來提供消息，為何放走了周安穆呢？說不定他與劉裕是同謀。
桓玄是一個沒有主見的人，覺得說得有理，立即又下令拘捕劉邁，並將劉裕的同黨王元德、辛扈興、童厚之三人拘捕，同一天將這幾個人斬首。
桓玄殺掉劉邁等四人後，召來弟弟桓謙和丹陽尹卞范之等人商議禦敵之策。桓謙建議立即出兵，桓玄則想屯兵覆舟山，以守為攻。經桓謙等人再三力勸，才答應頓邱太守吳甫之、右衛將軍皇甫敷出兵北上，遏制劉裕軍。