西晉王朝滅亡後，漢族政權退守江東，公元317年，鎮守建康（今江蘇南京）的晉室宗親司馬睿在江南重新建立晉室，史稱東晉。東晉政權維持了長期的偏安統治，到公元420年被劉裕所建立的宋所取代，共103年，歷經4代11帝。
東晉是門閥政治發展的鼎盛時期，皇權衰落。司馬睿稱帝有賴於南方官僚士族的擁戴，東晉政權建立之初，先後平息了王敦和蘇峻之亂，統治趨於穩定。門閥大族王，謝，庚，恆先後支配著王朝的政局。
士族祖邀曾率軍北伐，一度收復黃河流域。在此之後，當權的士族多標榜北伐以增加門戶威望，其中以桓溫的三次北伐最為著名。他曾經收復洛陽，進入關中、進兵河北，自都未能夠鞏固北伐成果。公元383年、前秦南下，東晉面臨空前威脅，在宰相謝安的運籌下，謝石、謝玄率北府兵大效前秦軍隊，取得了水之戰的決定性勝利。此後，需由於外上威脅解除而爆發內戰，孫恩、盧循起兵，恆玄在內戰中獲勝，一度篡晉。北府兵將領劉裕起兵鎮壓了農民軍，並通過北伐樹立威望、最終取代東晉。
東晉統治者不以恢復中原為意，門閥大族致力於南方的莊園經營。北方大族及大量漢族人口遷徙江南，給南來了先進的生產技術。南下的北方農民和土著農民辛勤勞動，開闢南方廣大的山澤荒野，促進了江南的開發、使中國經濟重心開始由黃河流域向長江流城轉移。
與此同時，中國北方陷入分裂混戰，黃河流城匈奴、羯、鮮卑、氏、羌等「五胡」族軍閥爭殺的戰場，各個「胡」族首領紛紛建立政權，和東晉漢族政權長期對峙，史稱五胡十六國。五胡亂華是由氐族及匈奴族揭開序幕。
公元304年農曆十月，氐族領袖李雄占成都，自稱「成都王」，史稱成漢。匈奴貴族劉淵起兵於離石，史稱前趙，是五胡建國的開始。310年，晉懷帝永嘉四年，劉淵死，其子劉聰殺劉和即位。311年（永嘉五年）四月，劉聰部下石勒，殲晉軍十多萬人於苦縣寧平城，並俘殺太尉王衍等人。劉聰又遣大將呼延晏率兵攻洛陽，屢敗晉軍，前後殲滅三萬餘人。六月呼延晏到達洛陽，劉曜等人帶兵前來會合，攻破洛陽，史稱「永嘉之禍」或「永嘉之亂」等。313年，劉聰毒死了晉懷帝。懷帝侄司馬業（或作司馬鄴），在長安登基，是為晉愍帝。316年前趙劉曜攻長安，晉愍帝主動投降。317年晉愍帝被殺，士族王導、王敦等，扶植晉朝遠房宗室司馬睿，因司馬睿不願稱帝，於是稱為晉王。318年司馬睿在勸說下，於建康登基，為晉元帝。歷時五十一年的西晉滅亡，東晉開始。五胡亂華時期中國北方的漢族基本被屠戮殆盡。
從公元304年匈奴貴族劉淵建立漢國，公元316年滅掉西晉，到公元439年鮮單拓跋部統一北方，這100多年裡，北方各民族相互爭戰、先後建立了前趙(匈奴)、後趙(竭)、前燕(鮮卑)、前涼(漢)、前秦(氐)、後秦(羌)、後燕(鮮卑)、西秦(鮮卑)、後涼(氏)、南涼(鮮卑)、西涼(漢)、北涼(盧水胡)、南燕(鮮卑)、北燕(漢)、
夏(匈奴)十五個政權，連同西南氏族建立的成漢，總稱十六國。
在十六國時期，除十六個大國之外、還有漢人冉閔建立的魏、丁靈翟氏建立的魏、武都氏帥楊氏建立的仇池國、鮮卑慕容建立的西燕、鮮卑拓跋氏建立的代，五個政權，總計先後建立了21個政權。
上述政權中、後趙、前燕、前秦都管占據過北方的大部分睡城，尤其是前秦轉基本上統了北方，不過時間都報短，在百餘年時聞，北方戰流基本上沒有停息。