自晉國曲沃代翼之後，小宗取代大宗。等到晉國一代霸主晉獻公繼位，晉獻公從小親眼目睹了父輩曲沃代翼的過程，這也讓晉獻公清楚地認識到，他這一族是以旁支的身份經過數代的殺戮後才取得了晉室的統治權的，所以晉獻公對晉室公族有一種天然的不信任。於是晉獻公開始有意的扶持外族有能力的卿士，而打壓公族。
晉獻公一生並國十七，服國三十八，使得晉國的國土疆域大大增加，他的一些有能力的卿士便由此得以幫助晉獻公管理部分封地，譬如晉獻公在征討霍、魏、耿三國之後，把耿地賜給了幫其駕馭戰車的趙夙，把魏地賜給了擔任護右的畢萬，而趙夙和畢萬也成了後來趙氏、魏氏的始祖，這便是後來晉國六卿發展起來的基礎。
到了晉文公繼位，當時晉國有勢力的氏族多達十一個，他們分別是狐氏、先氏、郤氏、胥氏、欒氏、范氏、中行氏、智氏、韓氏、趙氏、魏氏。他們各個氏族之間既有協作又有競爭，晉文公為了讓他們能夠統一作戰，互相配合，又可以互相牽制，便設立了三軍六卿的制度。
所謂三軍六卿，便是在作戰時設立三軍，分別為中軍、上軍、下軍。每個軍又分別設立軍將和軍佐，分別相當於軍長和副軍長，分別由上面十一個氏族的家族首領中選出，按照地位高低分別擔任中軍將、中軍佐、上軍將、上軍佐、下軍將、下軍佐。並按照「長逝次補」原則，輪流執政。
晉文公憑藉三軍六卿的作戰配合，在城濮之戰大勝楚國，春秋稱霸。而六卿最早只是在晉國軍事領域擔任職責，在政治外交等方面只負責對國君進言獻策，晉國的大權仍在國君手中。
等到了趙盾擔任卿大夫時，形勢有了轉變，六卿開始由六卿專政，晉國國君的權威也開始逐漸衰落。到後來晉國士卿內鬥，只剩下范氏、中行氏、智氏、韓氏、趙氏、魏氏六家，那六卿之位便固定下來；再到後來范氏、中行氏攻打趙氏被其他氏族聯合攻打，范氏、中行氏敗亡；最後韓魏兩家倒戈，聯合趙氏消滅了權勢最大的智氏，最後趙魏韓三家分晉，晉國滅亡。
下面就簡單細數下這些氏族：
1. 狐氏，本是晉國附近的狐狄，晉獻公討伐時首領狐突歸順晉獻公，其女兒狐姬生重耳，也就是晉文公，可以說是晉文公的娘家人。在趙盾當政時，趙盾處死狐鞫居，狐射姑逃亡北狄和潞國，最後死在潞國。
2. 先氏，本是晉國的貴族，到了先軫時因輔佐晉文公有功，先氏一族崛起，等到先氏傳到第五代先榖時，先榖勾結犬戎作亂，被晉景公族滅其家。
3. 郤氏，為晉國公室後裔，到了郤豹時，因打敗翟柤國有功，封郤豹於郤邑，建立郤氏家族，後到三郤時，六卿郤氏占據三席，內外驕橫，最終被晉厲公和胥童聯手殺害，郤氏遭屠殺。
4. 胥氏，胥臣本身晉將，因勸晉文公接納秦穆公之女懷嬴，擔任下軍佐，被分封於臼。當傳到胥童時，為晉厲公寵臣，後晉厲公被欒書、中行偃所囚，胥童被殺。
5. 欒氏，本身晉國公族，欒枝因為在城濮之戰立下戰功，遂受封於欒邑，創建欒氏。後欒書弒殺晉厲公，最後被范氏以此為藉口攻滅。
6. 范氏，士蒍便是晉獻公身邊著名卿士，等到了孫子士會時，受封范地，建立範氏。等到傳於士吉射時，被趙鞅攻滅。
7. 中行氏、智氏，本身晉國公族，因荀息是晉獻公氏的重臣，被封於荀國。荀息生子荀逝敖，荀逝敖生子荀林父、荀首，分別建立中行氏，智氏。
8. 韓氏，韓萬為晉國曲沃武公的駕車，武公便將韓原封給了韓萬作為采邑，因而以韓為氏，後建立韓國。
9. 魏氏，畢萬擔任晉獻公護右，被封在魏地，後建立魏國。
10. 趙氏，趙夙擔任晉獻公的駕車，被封在耿地，後建立趙國。