劉裕在京口聚集了兩千多名義軍，聽說桓玄已經發兵，便自封為徐州總督，命孟昶為長史，鎮守京口。命何無忌起草檄文，聲討桓玄。
檄文說得鏗鏘有力，慷慨激昂，聲稱在京口、廣陵、歷陽、石頭城、尋陽、益州同時起兵，似乎天下響應，大局已定，其實都是虛張聲勢。
實際情況是，尋陽和益州根本就不知情，石頭城的王元德、辛扈興、童厚之同時被害，歷陽的諸葛長民其實已經被抓，只有廣陵的劉毅會師京口。劉裕的義軍只是孤軍作戰，形勢並不樂觀。
劉裕鐵了心要成就一番事業，率一千七百餘人，南下進軍。
檄文傳到建康，桓玄大驚失色，束手無策。有人勸慰：「劉裕的隊伍不過是烏合之眾，兵力甚弱，成不了大事，陛下何必太過憂慮！
桓玄又急又憂：「你們知道什麼啊！劉裕乃當世英雄，劉毅雖然窮得叮噹響，賭博時卻能一擲百萬，何無忌酷似他的舅舅劉牢之，這三個人湊在一起，可不簡單，怎麼能說他們干不出大事呢？」
桓謙說：「區區千餘人，算個鳥？微臣願出兵討伐劉裕。」
「既然他們敢造反，就成了亡命之徒，荊州水軍不是對手，萬一失敗，大勢去矣。」桓玄命令說，「你率大軍屯駐覆舟山，以逸待勞，他們急行二百里，銳氣已盡，乍見大軍，必定驚駭，我按兵不動，他們自然得撤走，這才是上策。」
「堂堂楚國大軍，怎能被一群烏合之眾嚇倒？」桓謙仍然不以為然。桓玄見桓謙堅持要出兵，只得加封桓謙為征討大都督，命吳甫之、皇甫敷兩員大將率兩萬人馬殺向京口。
劉裕率領的一千多名義士與吳甫之的大軍在江乘遭遇。吳甫之是桓玄的驍將，手下兵馬都是楚軍精銳。兩軍陣前，劉裕手執長刀，大叫一聲，衝上前去，所向披靡，力斬吳甫之，楚軍大敗。劉裕率軍追到羅洛橋，再遇皇甫敷。劉裕率眾奮勇向前，再斬皇甫敷。
主帥戰死，部隊成了無頭蒼蠅，一千破敵兩萬，義軍殺得楚軍四處逃散。桓謙嘗到了劉裕的厲害，親自屯兵覆舟山東陵，卞范之屯兵覆舟山以西，合計兵力兩萬，據險而守。
劉裕命部隊飽餐一頓，然後效仿西楚霸王項羽破釜沉舟，但他比西楚霸王做得更絕，項羽還帶了三天的糧食，劉裕卻讓部隊扔掉所有糧食，以示拼死之心。然後輕裝簡從，直撲覆舟山。
劉毅持長矛擔任先鋒，劉裕握長刀隨後跟進。劉毅、劉裕身先士卒，率眾將士奮勇殺入敵陣，以一當十，以十當百，喊殺聲驚天動地。
桓謙的士兵多是京口人，久聞劉裕之名，對其有畏懼之心，見劉裕率兵殺到，心無鬥志。恰巧此時正刮東北風，劉裕命士兵趁風縱火，一時間，風助火勢，火借風威，將桓謙、卞范之兩軍燒得焦頭爛額，死傷無數。桓謙、卞范之先後敗走。
桓玄料到劉裕軍不好對付，預先派殷仲文前往石頭城備好船隻，為逃跑做好準備。接到前方戰敗的消息，立即騎馬出逃。太尉參軍胡藩拉住桓玄的馬韁，大聲說：「今羽林射手猶有八百，都是荊州義士，足可一戰，一旦舍此而去，再想回來恐怕就難了。」
桓玄並不答話，以馬鞭指天，意思說天意如此，我能逆天嗎？於是率子侄們乘船逃往江南。司徒王謐率百官大開城門，迎接劉裕進城。劉裕率兵進城之後，下令士兵不准擾民，並派劉毅去追捕桓玄，又讓尚書王嘏率百官去迎請晉安帝回京，同時下令誅殺桓氏宗族。
劉裕從一個普通的軍官一躍而成權臣，但治國和打仗不一樣，他是明白這個道理的，於是讓司徒王謐做代理人。
王謐出自琅邪王氏，是王導的孫子，歷任東晉高官，桓玄篡位的時候，他親手將晉國傳國玉璽奉獻給桓玄，被封為楚國中書令、司徒。義軍進城之後，很多人要求殺掉這個叛徒。
劉裕不但不殺王謐，而且還處處維護王謐，讓他繼續在朝中做事，經他一再推薦，任命王謐為侍中，兼任揚州刺史。
乍看起來，這是向王謐報恩，因為此前王謐對他有恩，其實不然。劉裕知道自己名微位薄，幾乎沒有什麼政治基礎，如果一步登天，容易引起高門士族的反感，如果以功臣自居，總攬大權，等於是坐到火爐上烤，最後非得把自己烤焦不可。選擇王謐做代理人，其實是以退為進；將權力交給別人又不放心，於是他選擇了王謐。
王謐投桃報李，與眾人商議，力舉劉裕為鎮軍將軍，督領揚、徐、兗、豫、青、冀、幽、並八州軍事，兼任徐州刺史。
劉裕受任後，暫時過了一把做老大的癮，命劉毅為青州刺史，何無忌為琅邪內史，孟昶為丹陽令，劉道規為義昌太守。任命劉穆之為主簿，將軍國之事都交給劉穆之處理。
劉穆之小名道明，是劉宋皇朝第一臣，劉裕的「諸葛亮」。
劉穆之也是京口人，從小好學，博覽群書，有才華，做過琅邪內史江敫的主簿。劉穆之曾對人說，他做了一個夢，夢見和劉裕在大海中行船，忽遇大風，眼看大船要翻了，突然有兩條白龍出現在船的左右，護船而行。四周風聲大作，巨浪滔天，而他們的船卻如履平地，安然無恙。
劉穆之的話和劉邦斬白蛇的典故一樣，誰也不能進入他的夢中去核實真假。但這足以說明他和劉裕非常熟，互不認識怎麼夢見，說出來誰也不信。劉裕生來窮困潦倒，和他相知的人，家庭狀況大概也好不到哪裡去，能夠彼此信任，必定是脾氣相投。
劉裕京口起兵時，劉穆之正在家裡讀書。那天早晨剛起床，聽到外面人聲鼎沸，不知發生了什麼事，跑到街頭去張望，正好與劉裕的信使相遇。信使對劉穆之說：「劉將軍招你一同建義！」
建義是什麼？其實就是造反。成功則罷，不成功人頭就得落地。劉穆之是讀書人，不同於劉裕那幫天不怕地不怕的混混兒、賭徒，考慮問題要複雜得多，他看著信使，久久沒有說話。
「成不成，你可給句話呀！」信使有些急了。
劉穆之有才學，有志向，他也不甘落人後啊！沉思片刻，便下定了決心，隨信使去見劉裕。
劉裕見到劉穆之，也不拐彎抹角，問道：「我始舉大義，方造艱難，急需一個主管軍吏，你認為誰能勝任？」
劉穆之道：「貴府初建，軍吏必須大智大勇，且有大才者，倉促之間，恐怕沒有人比我更合適了。」劉裕笑道：「你肯屈尊，我大事必成。」
諸葛長民因處事不密被抓，此時豫州刺史刁逵還不知建康的消息，把諸葛長民裝進囚車，派人押往建康。押解的人途中聽說桓玄敗走，建康已為劉裕占據，樂得做個人情，把諸葛長民給放了。
諸葛長民立即又返回曆陽，率眾起事，乘機圍攻並活捉刁逵，然後送往石頭城，聽候劉裕發落。
劉裕不但要了刁逵的命，還抄斬滿門，遣散家奴，散盡萬貫家財，痛痛快快地幹了一場殺富濟貧的買賣，同時也報了當年羞辱自己的一箭之仇。
桓玄逃出建康後，劉裕並沒有給他留下喘息之機，立即命劉毅等將領率軍沿江追擊。
桓玄倉皇逃到尋陽，在刺史郭昶之的支持下，仍自稱楚帝，威福如舊。隨後聽說何無忌、劉毅、劉道規率軍追來，即將兵臨城下，立即派部將庾雅祖，何澹之等鎮守湓口防線，抵擋追兵。
然後挾持在尋陽城過退休生活的晉安帝司馬德宗以及皇后王氏，穆帝後何氏西逃江陵。
劉毅與何無忌，劉道規窮追不捨，在桑落洲大破何澹之的水軍，奪下湓口、尋陽，派人回建康報捷。
劉裕因為晉安帝被桓玄劫待，於是迎奉武陵王司馬遵為大將軍，請他人居東宮，同時命令劉毅等人繼續追擊桓玄。
桓玄逃到江陵，收集了二萬荊州兵，挾持晉安帝東下，意圖奪回江州。
劉毅，何無忌，劉道規自尋陽率師逆流而上，在崢嶸洲與桓玄相遇。兩軍相遇，晉軍不足萬人，各路楚軍有數萬之眾，且樓船高大，舟艦眾多。有的將領見敵眾我寡，主張退回尋陽堅守。
劉道規怒吼道：「敵眾我寡，若再畏縮不前，必將被敵人抓住機會，就算回到尋陽，能守得住嗎？桓玄外名雄豪，其實是紙老虎，加之賊軍累敗，軍心不穩。兩軍決戰，將雄者勝，不在人數多寡。」
「狹路相逢勇者勝」，這話一點也不假，勝便勝在氣勢，勝在信心。劉道規率本部船隊沖在前面，劉毅等眾將各自催船緊隨其後。
桓玄還是不改老習慣，作戰的時候，大船旁邊總是準備一條小船，如若戰敗的話，可以乘小船逃走，始終給自己逃跑留一條後路。楚軍見主帥如此信心不足，更是沒了鬥志。
此時正是仲夏天氣，西南風吹得正歡，劉道規乘風縱火，劉毅等也助薪揚威，燒得長江上下一片紅，煙霧迷濛。船借風勢，風助火威，楚軍的船艦被一場大火燒得一塌糊塗。
桓玄狼狽不堪，下令燒掉輜重，挾持晉安帝，換乘小船，再次逃回江陵。
桓玄的部將殷仲文轉投劉裕，帶著晉安帝的皇后返回建康。桓玄逃回江陵後，仍然覺得不安全，準備逃往漢中，此時城中人心惶惶，士兵譁變。桓玄只得率親隨騎馬出城西逃。剛到城門口，遇到一隊士兵自相殘殺，桓玄差點被砍死，僥倖逃得性命，到了江邊，爬上船，身邊只剩下幾個隨從。
隨行人員中有屯騎校尉毛修之，他可不是真心追隨保護桓玄，而是益州刺史毛璩安插在桓玄身邊的臥底。他見桓玄如喪家之犬，沒了主意，建議桓玄去四川。「為何要入川？」毛修之道：「蜀道難，難於上青天，當年劉備入川，不是很好的先例嗎？
桓玄聽信毛修之的建議，改向蜀地進發。船行到回州，從上游下來幾艘喪船，前面一隻船的船頭站立著一員大將，與毛修之打個照面之後，大喝：「對面船上有沒有窩藏逆賊？」
毛修之不答。桓玄膽怯說：「朕是當今天子，哪來的盜賊，你敢在朕的面前胡言亂語？」對面船上跳出兩將，也不搭話，搭弓上箭，將桓玄身邊的人全部射倒，接著蜀將領益州督護馮遷率數人提刀從對面船上跳過來。
桓玄驚駭地間：「你···你們是什麼人？竟敢對天子無禮！」「我乃殺天子之賊！」馮遷話音剛落，舉刀便砍，桓玄的頭應聲落下。原來，益州刺史毛璩的弟弟毛璠在寧州刺史任上病逝，毛球請侄子毛祐之及參軍費恬將弟弟的靈柩送回故里，並派馮遷護送。途中正好遇到桓玄的船，毛修之一聲令下，馮遷一行人一齊動手，殺死賊人桓玄。剛才放箭的二將，便是費恬、毛祐之。
馮遷砍下桓玄的首級，捉住桓玄的兒子桓升，殺死桓玄的族人桓石康、桓浚，然後命毛修之帶著桓玄的首級，並將桓升押往江陵。桓玄於元興元年（402年）稱帝，到元興三年（404年）五月被殺，僅僅做了一年零六個月的皇帝，身死國滅。宗族死亡殆盡。
晉安帝封毛修之為驍騎將軍，將桓升斬首示眾，頒詔大赦天下，唯獨桓氏族人不赦。桓玄死後，他的侄子桓振逃到華容，召集了數千名黨徒，得知劉毅等退守尋陽，立即率兵襲擊江陵。躲在沮川的桓謙也糾眾響應。
江陵城內只有王騰之、王康產二人駐守，士兵也不多，一場惡戰後，王騰之、王康產戰死。
晉安帝當時正在江陵行宮，桓振持刀闖進來，正要舉刀結果他的性命，幸虧桓謙及時趕到勸阻，桓振才罷手，這才救了晉安帝一命。
桓謙率百官覲見晉安帝，奉還玉璽，然後撤換了他身邊所有的侍衛，改用自己的黨羽，並趁勢攻占了襄陽等城。劉毅等人退駐尋陽，以為元兇已除，可以高枕無憂，哪知死灰復燃，又有桓振、桓謙餘孽襲取了江陵。急忙命何無忌、劉道規討伐兩桓。大軍走到馬頭，正遇桓謙的兵馬，打了一場遭遇戰，殺退桓謙的人馬，率軍直逼江陵。
桓振命黨徒馮該率兵在楊林設伏，然後親自率部眾到靈溪迎戰。
何無忌恃得勝之勢，貿然輕進，中了敵人的埋伏，大敗而歸，幸虧劉敬宣接濟他們糧草和船隻，劉毅的軍隊才得以恢復元氣。
劉敬宣即劉牢之的兒子，前時逃往山陽，擬募士兵準備討伐桓玄，始終未能如願。桓玄死後，劉敬宣投靠劉裕，劉裕命他為晉陵太守，不久又授他為江州刺史。因劉毅大軍去討伐桓玄餘黨，便籌備船隻器械，隨時準備接應。何無忌、劉道規得到這支強援，繼續與劉毅軍在荊州作戰，迅速攻占了江陵。晉安帝這次沒有被挾持，仍在江陵。劉毅進行宮覲見晉安帝。晉安帝命他主持一切事宜。
桓振率軍回救江陵，途中得知江陵失守，部眾潰散，只得逃往溳州。後來，桓振再次襲擊江陵，中了守將劉懷肅的埋伏，被一網打盡。桓氏餘孽，只有桓謙逃往後秦。
晉安帝改元義熙，大赦天下，除桓謙等不赦外，桓氏宗族中獨赦桓沖的孫子桓胤，並命他遷居新安，下令保存桓沖的宗祀，以保全功臣一脈。
桓沖是桓玄的叔父，有功於晉室，封豐城公。劉裕得報後，命劉毅、劉道規留守夏口，讓何無忌護送晉安帝回建康。晉安帝回建康後，命百官復職。授琅邪王司馬德文為大司馬，武陵王司馬遵為太保，並重賞劉裕、劉毅、何無忌、劉道規。
劉裕力辭不受，請求回鄉。晉安帝當然不會答應，派百官勸慰。劉裕便請求到京外供職。晉安帝命劉裕督管荊、司、梁、益、寧、雍、涼等十六州諸軍事，允許他回丹徒鎮守。
晉安帝又封劉毅為左將軍，督管豫州的軍事；何無忌為右將軍，督管揚州的軍事；劉道規為輔國將軍，督管淮北的軍事。孟昶任吏部尚書。
東晉名義上雖然仍是司馬氏的天下，朝廷最高長官仍然是琅邪王氏的王謐，但此時的王謐只是一個傀儡大臣，「王與馬，共天下」的格局已不復存在，隨後的演變讓劉裕與北府將領們主宰了天下。
晉安帝義熙三年（407年），傀儡大臣王謐病故，王謐生前兼任司徒、揚州刺史兩個職位，死後兩個職位空缺。揚州刺史管轄京城建康，司徒主管朝政，都是至關重要的職位。
論資排輩，本應由劉裕繼任王謐的職位。但劉毅等人對劉裕已是十分忌憚，不希望他入朝主政。朝議的結果，形成兩種意見，讓中領軍謝混擔任揚州刺史一職，讓劉裕兼管揚州軍事，朝政事務交由孟昶處理。
廷議方案看似合情合理，謝混是謝安的孫子，謝琰的兒子，由他接任王謐的職位是一件很自然的事。劉裕想做揚州刺史也行，兼職也行，但有一點相同，即劉裕不必進京輔政。安帝猶豫不決，特派尚書右丞皮沈前往丹徒，徵求劉裕的意見。皮沈到丹徒後，先去拜見劉裕的謀士劉穆之，將朝廷的意思告訴他。
劉穆之哈哈大笑：「皮大人稍坐片刻，我去方便一下再來。」劉穆之退出之後，立即寫了一張便條，派人送給劉裕，便條上面說：「皮沈的兩條建議，都不可取。」
劉裕出來見皮沈，皮沈向他說出廷議的兩條意見。劉裕沒有表態，請皮沈暫在客舍住下，容後答覆。劉裕回到內堂與劉穆之商議。
劉穆之果斷地說：「我還是那個意見，兩條意見都不可取。」
「為什麼？」
劉穆之分析說：「晉朝失政已久，桓玄篡政，天命已移，劉公匡扶社稷，功高望重，難道甘願一直做藩將嗎？劉毅、孟昶等人與你一樣，都是起自布衣，共立大義以取富貴，定謀起事有先有後，所以推劉公為盟主，並非真心誠意擁護你，你和他們雖然存在主僕名義，但一旦他日勢均力敵，終會相互吞噬。
揚州是國家的根本，關係重大，怎麼可以將揚州拱手讓給他人？當年任命王謐為揚州刺史乃權宜之計，如今再將揚州讓給他人，我擔心將來會受制於人，權柄一旦失去，再要爭取就很困難。」
「那怎樣回復皮沈呢？」
劉穆之說：「先答覆皮沈，說事關重大，需要進京面商，到時大家都當了面，我相信沒有人再敢說將揚州刺史之職授給他人。」
劉穆之深謀遠慮，一眼看破玄機，看到劉毅的野心。劉裕拉攏琅邪王氏，劉毅便去拉攏陳郡謝氏，準備在朝中另立自己的派系。朝中廷議目的明確，即使謝混做不了揚州刺史，也決不讓劉裕進京主政。
劉穆之一席話，堅定了劉裕排除異己、最終成就偉業的雄心。
幾天之後，劉裕到了京城。此前說三道四的人，當著劉裕的面，果然沒人再敢亂言。晉安帝也很識時務，晉封劉裕為侍中、車騎將軍、都督中外諸軍事，掌握朝政。這樣，劉裕將東晉的政治權力牢牢掌握在手中，為篡晉邁出了最為重要的一步。
劉裕得好賣乖，擺出一副謙恭的態度，上奏懇請將督管兗州軍事的職務讓給別人；並命諸葛長民守丹徒，劉道憐屯駐石頭城。
劉裕出身庶族，踩著桓玄的屍體登上門閥帝國東晉的權臣寶座，開始扮演皇帝終結者的角色。
劉裕主政之後，內亂基本平定，他便把目光轉向國境外，派將軍毛修之與益州刺史司馬榮期會師，共同討伐益州的譙縱。
益州原本是東晉的領土，劉裕起兵復興晉朝，益州刺史毛璩起兵響應。這件事給毛璩惹下了殺身之禍。他徵調三萬蜀兵順流東下，征討桓玄的殘餘勢力。四川的將士不願離鄉背井去打仗，於是發動兵變，殺死毛璩，推選益州參軍譙縱為首領。
譙縱樂而就之，自稱成都王，並脫離東晉統治，向後秦稱臣。後秦皇帝姚興任命譙縱為蜀王，蜀地大亂。晉廷任命司馬榮期為益州刺史，命他率兵討伐譙縱。司馬榮期在白帝城擊敗譙縱的弟弟譙明子，擬再向前推進，因恐兵力不足，向晉廷上表請求增援。劉裕派毛修之前往支援司馬榮期。
毛修之入川與司馬榮期會合，並命司馬榮期為先鋒。司馬榮期率兵抵達巴州，卻被參軍楊承祖所殺，楊承祖自稱巴州刺史。
毛修之接到司馬榮期的死訊，不得已退守白帝城。當時，益州督護馮遷已升任漢嘉太守，得知毛修之出師不利，發兵馳援。兩軍會師後，擊斃楊承祖，正準備乘勝進軍，不料朝廷新派來的益州刺史鮑陋與毛修之意見不合。毛修之據實上奏。
劉裕忙向晉安帝推薦劉敬宣為襄城太守。晉安帝隨即命劉敬宣率五千人馬，前往蜀中討伐逆賊，並任命荊州刺史劉道規為征蜀都督，調度各路兵馬。譙縱聽說晉廷大軍將至，慌忙向後秦請求援兵。秦主姚興派部將姚賞等人馳援譙縱。
由長江入川進攻成都有內水、外水兩條水路。內水即涪江，外水即岷江。內水通綿陽轉陸路到達成都，外水直通成都。劉敬宣先派兩千人虛張聲勢出外水佯攻，自率精兵出內水，進展順利，一直打到距成都約五百里的黃虎嶺。
譙縱識破了劉敬宣的意圖，派大將譙道福會同後秦將領姚賞，堅守黃虎嶺，歷經六十餘天，與晉軍大小十餘戰，黃虎嶺固若金湯。
晉軍糧盡，將士疲憊，加之軍中疫病流行，士兵死傷大半，劉敬宣只得撤軍。劉敬宜無功而返，劉裕的威望也跟著受損，劉毅乘機出來說事，對親近劉裕的劉敬宣進行打擊報復。
劉敬宣與劉毅早年結怨。劉毅未發跡前，曾做過劉敬宣的參軍。有人在劉敬宣面前推薦劉毅，說他是當世的英雄豪傑。劉敬宣對劉毅做了客觀評價，說劉毅是非常之才，應該有寬闊的胸懷和氣量，但此君外表寬厚，實則心胸狹窄，自視很高，總想在別人之上，即使掌握大權，也一定會犯上而招致禍患。
劉牢之死後，劉敬宣逃亡江北，京口起義後，才回到江南。劉毅永遠記住了劉敬宣的話，乘機對劉裕說：「劉敬宣沒有參加京口起義，平亂立功的將士才能論功行賞，像劉敬宣這樣的人只能靠邊站。如果你不忘過去舊情，不妨給他一個閒散的官職。做郡守太過優厚，做地方面大員簡直就是駭人聽聞了。」
劉裕安排劉敬宣伐蜀，本想讓他露露臉，沒想到弄巧成拙。劉毅跳出來橫加指責，要求軍法從事。劉裕再三保護，好在何無忌也站在劉裕一邊，勸劉毅說：「怎麼能用私人間的恩怨傷害天下的公理呢！」劉毅這才罷休。
劉敬宣雖然沒有被按軍法從事，貶職卻還是免不了的，劉道規也被降為建威將軍。劉裕因劉敬宣失利，上奏自願削職。晉廷只是把劉裕降為中軍將軍，其他官職如舊。
晉軍退兵之後，譙縱下令將益州刺史毛璩等人的棺材扔進長江，順流漂下，以示羞辱。劉裕記住了譙縱這個名字，發誓此仇必報。
內亂平定以後，劉裕把眼光投向了國境外，他在議事中對群臣說：「自古安內必先攘外，過去南燕和後秦，利用晉廷內亂之機，侵奪我疆土。今內亂雖平，但南鄉等郡卻被後秦侵占；宿豫以北，被南方有 想運先拿哪一國開刀為宜？」
大將朱石齡說：「據說後秦姚興頗為仁義，以禮待之，或許能收回被他們侵占的疆土；南燕自慕容德亡、慕容超繼位之後，國內非常混亂，可一舉滅之。此時兵力不足，宜等待時機再圖之。」劉裕採納了朱石齡的建議，派使臣出使後秦，試探性地向後秦提出議和，要求歸還南鄉等幾個郡。
姚興大儒出身，竟出人意料地答應了東晉的要求，同意歸還南鄉諸郡。群臣紛紛諫阻，姚興為他的以土地換和平政策解釋說：「天底下的善惡標準都是一樣的。劉裕從社會底層最卑賤的地位發展起來，能夠誅除桓玄，興復晉室，內修政治，外修疆域。我怎麼能因吝嗇數郡之地，不成全他的千秋美名呢？」
於是，後秦盡還漢水以北十二郡疆土給東晉。在相互攻殺的十六國時期，這種「不戰而屈人之兵」的天方夜譚般的故事，竟然被大英雄劉裕變成了現實。
姚興夠聰明，難怪後秦在他溫和而又堅決的領導下，逐漸強大起來。不過，他的溫和是養虎為患，以劉裕的志向和心氣，想誅滅的絕不僅僅是一個桓玄。東晉和後秦修好之後，劉裕準備對南燕找碴兒，正在此時，機會送上門來了。當時，南燕老皇帝慕容德去世，金刀太子慕容超繼位。慕容超為了巴結後秦，不但向姚興稱臣，而且還把南燕的樂隊當作禮物送給了姚興。
樂隊送人了，慕容超自己沒有樂隊了，他準備重新組建一支樂隊，於是派軍隊劫掠東晉數萬邊民，從中挑選二千五百名少男少女送到教坊司，強迫這些良家子女學習音樂技能。五色令人目盲，五音令人耳聾。慕容超的貪慾掩蓋了智慧，顯耀一時的慕容家族因此幾近亡族。
劉裕與慕容超對待音樂的態度完全不同。當有的官員因朝廷音樂機構設置不全而請求重建時，劉裕回答說：「現在沒有時間做這些事，而且我也不懂音樂。」
官員們說：「如果你喜歡它，自然就懂了。」劉裕說：「正因為懂了就會喜愛，所以我才不去學習。」
不久，南燕又有數千鐵騎入侵歷城，攻城略寨，殺人放火不說，連東晉的太守也被擄走，又掠走了一千多名當地士女。
慕容超輕挑邊釁，給了劉裕大展拳腳的機會。劉裕向天下宣告，一個屬於他的時代即將來臨，他要用武力收復失地，一統江山。
劉裕發動了第一次北伐，他給第一次北伐定下的目標是－幹掉南燕國。