羯族，又稱「羯胡」，晉朝對雜胡的泛稱，廣義上說，一般是指分布於今山西、河北兩省間的新徙諸胡，一般居住于山間。狹義上的，主要分布於山西并州上黨郡的武鄉羯室及新興郡一帶。
西晉末年，匈奴貴族劉淵反叛朝廷，自立稱帝，建立了漢趙（前趙）政權。羯族人石勒先是臣服於漢趙，待羽翼豐滿之後，就反叛並滅掉了漢趙，稱帝建國，國號也叫「趙」，史稱「後趙」。此時，羯族人迎來了高光時刻，其族人也大量增加，其都城鄴城「羯胡」就多達二十餘萬。
對於羯族人的來歷，眾說紛紜，他們在入塞前，隸屬於匈奴，為「匈奴別部」，《晉書·石勒載記》就提到石勒的先祖為「匈奴別部羌渠之胄」。關於羯族人的族源，主要有以下四種說法：
一，認為羯族是匈奴苗裔或一支。
二，入塞北狄十九種羌渠和力羯的後裔。
三，氐羌與匈奴的混血種，羌渠之胄，即羌中渠帥（首領）之子孫。
四，西域胡人的一種，與大月氏有一定的淵源。大月氏原來是居住於敦煌、祁連山一帶，大多數被匈奴人趕到了西邊，還有少部分留下來了，與漢人雜居，就稱為小月氏的西域胡。羯胡就是小月氏一種，因此才稱為「匈奴別部之居山間者」。到了漢朝，又被匈奴人俘虜，就入塞了。
從羯族人高鼻樑、深目、多須等體貌特徵及喜歡火葬、信仰襖教等習俗來看，顯然與匈奴不是同一支族。因此，羯族為匈奴苗裔之說，基本可以排除，充其量就是匈奴統治下的某個部落。
「羌渠」一詞，是西域「康居（康國）」不同的翻譯。康居國「去長安萬二千里」，跟當時的大月氏屬於同種，漢朝初年國勢頗盛，擁有現在新疆北境以及中亞部分地區，是一個西域大國。
所謂「羌渠之胄」，就是指康居國的王室貴族，被匈奴人裹挾進入中國。因此，羯族人中就以羌渠為貴，居住在并州上黨郡山間，魏晉時屬於匈奴左部，石勒就是羌渠種人，算是羯族人中的上等人。
而入塞北狄十九種之「力羯」，意思應該是指「力量強大的羯族武士」，乾的都是體力活，一般地位較低，至少是不如羯族人中的羌渠。
因此，羯族有大量的西域胡的成分，但也不排除在長期的遷徙過程中，與漢人、匈奴及其他胡人融合的可能，其族源是多元的。
羯族人進入中國之後，大多保留著部落組織，部落中有大小酋帥，如石勒父祖皆為「部落小率」，爾朱氏「常領部落，世為酋帥」。
與漢人雜居的羯族，也從事農業生產，有的貧窮就淪為漢人的奴僕，漢化程度也加深，也開始用漢人的姓氏。
公元319年，石勒在襄國自稱趙王，與匈奴人的漢趙分庭抗禮，329年，石勒滅掉了漢趙，並於次年正式稱帝，北方大部都被其征服。石勒稱王稱帝15年，在位期間，採取了一些措施，社會秩序也相對穩定，使得國力有一定的增強。
但是，石勒去世之後，後趙就陷入了一片殺戮之中，特別是石虎，大興土木，徵調民夫40餘萬，築台觀40餘所。營建長安、洛陽二宮，選民女三萬餘人，奪人妻9千餘，充入後宮，以至於民怨沸騰。
石虎為了鎮壓反抗，就實行了嚴峻的刑法，如「立私論之條、偶語之律。聽吏告其民，奴告其主，威刑日濫」，這樣一個暴政，動輒殺人上萬，使社會矛盾日益尖銳。
石虎死之後，幾個兒子就爭權，互相殘殺。
石世即位不到一個月，被石遵廢殺。
石遵當皇帝之後，又與原先支持他的石閔（冉閔，石虎養孫）鬧起了矛盾。因為，石遵在發動政變的時候，曾許諾事成之後立石閔為儲君。但是，石遵食言了，就引起了石閔的不滿。
於是，石閔就聯合石鑒殺掉了石遵，扶持石鑒為帝。
石鑒也擔心大權旁落，就想除掉石閔，但是，石閔技高一籌，利用漢人對羯胡暴政的不滿，在全國發起了「屠胡令」，「斬一胡首送鳳陽門者，文官進位三等，武職悉拜牙門。一日之內，斬首數萬。閔躬率趙人誅諸胡羯，無貴賤男女少長皆斬之，死者二十餘萬」。在當時，只要發現是高鼻樑多鬍鬚者，不管男女老幼，一律屠殺。
由此，羯族人遭遇到滅族的浩劫，人口劇減，紛紛逃離或隱匿。南北朝時期，爾朱氏仍顯赫一時，特別是到了爾朱榮這一代，兵強馬壯，權傾朝野，對北魏後期政局影響很深，其家族被高歡消滅。
最後一支活躍於歷史上的羯人，就是侯景，他發動了侯景之亂，期間屠殺了大量的漢人，僅在江南，就把建康城20萬人殺絕，最後被陳霸先、王僧辯擊敗，死於部下之手。
此後，羯族人消失了，大多融合於漢人，其中爾朱氏，在宋朝後改為漢姓「朱氏」。
羯族之所以會被滅族，主要還是因其過於殘暴，大量屠殺漢人，使北方漢人銳減至六七百萬。倖存下來的漢人，為免於屠殺，紛紛築堡自衛，最終在冉閔的帶領下，對羯族反戈一擊，滅掉了羯族人的後趙政權。