西晋灭亡之后，中国北方出现了十六个国家分裂割据的局面，入主中原的“五胡”先后建立了政权，后赵便是羯族石勒部族建立的政权之一。所以虽然羯族建立的政权在历史上只是昙花一现，羯族这个民族有过一段时间也消失在史书上，但这个民族确实真实存在的。

由于历史较为久远，史料不足，游牧民族内流传下来的史书更是少之又少，我们只能从少数的史书中尽量找到羯族的相关资料。羯胡其实是当时晋人对杂胡的一种统称，并不带有血统的色彩，所以这个称呼也没有流传下来。当然笔者也相信羯族中会有部分独立的部落或族群历经千百年时间传承下来，但羯族的个称呼南北朝之后就消失了。

现存的《晋书》《魏书》《太平御览》等珍贵的史籍中有记载部分羯族的历史，南朝史学家朱凤这样定义羯胡，“前后徙河北诸郡县，居山间，谓之羯胡。”羯人在进入中原之前，基本上还处于氏族部落的状态。对于羯族的原住地，现在有这样一种说法，大约在前元四年（前176）左右，匈奴征服了西域诸国，这时可能有一批印欧人种部落随匈奴返回蒙古高原一带居住，羯族可能就在其中，所以这种说法推断羯族的原居住地在西域一带。

这些羯人随着内迁的匈奴一起进入了中原，对这些羯人的记载少到连他们群居在哪都不知道，只能从前面提到的朱凤的那句话中寻找一些蛛丝马迹，可那句话在记载中“没头没尾”，也没有再详细的介绍了。

说羯族以屠杀闻名，不如说因为羯族建立了一个政权——后赵。后赵的建立者石勒是中国历史上的奴隶皇帝，在当时那个战火纷飞的年代，石勒的残暴也是出了名的。《晋阳秋》残本记载的石勒屠杀的记录显示，石勒的一次屠杀就杀了数十万百姓，其他的晋史中也有大量羯族屠杀百姓的记录，范围涵盖数个州。

石勒死后，他的侄子石虎杀了石勒的儿子，夺得了后赵的大权。从石虎夺权的过程也可以看出，石虎的性格更加残暴，而且没有石勒的雄才伟略，只知道一味的杀戮，并以杀戮为乐。成汉的使者从长安到邺城的路上看见沿途树上挂满了上吊自杀的人，城墙上挂满反抗将士的人头，尸骨被做成“尸观”。

如此残暴的羯族怎么就突然灭亡了呢？当然是遇到了更加残暴的存在，过程不加以赘述，灭掉后赵的冉闵曾下过这样的命令，斩一个胡人首级，文官进位三等，武职都任牙门。对于胡羯，不论男女老少一律杀头，被杀的羯族人有二十多万，有时一天之内就能杀数万胡人。这冉闵本是石虎的养孙，自己人，对胡人的屠杀也是内外相加，这些胡人连逃跑和组织抵抗的机会都没有，甚至当时有许多外表长得像胡人的人也被无辜滥杀了。

羯族虽然在历史上一闪而过，但也对历史产生了深厚的影响，起码客观上影响了隋朝的建立，后来的羯鼓据说也是羯族的产物。

一说类亚洲西境诸族人而非匈奴人，如夏曾佑；一说是附属于匈奴随之入塞的羌渠部後裔，如王国维；一说与匈奴有关但与匈奴不同属，似来自西域，如黄文弼；一说与羌族有关，如吕思勉、钱穆；一说属西域月氏胡，如陈寅恪、姚薇元、王青；一说来自中亚的石国(今乌兹别克塔什干一带)，如谭其骧；一说西域胡占较大比重的杂胡，如唐长儒；一说来自呼揭国遗民，如陈可畏。诸说并存，各有所据。

羯人高鼻深目多，信奉祆（音先）教（即拜火教，看来他们和波斯有些渊源）。

后人经常提到的石勒（274－333）即后赵明帝，字世龙，原名匐勒，上党武乡(今山西榆社北)人，就是羯族。十六国时期（西晋灭亡到北魏统一华北期间的时期，当时南方则为东晋时期）后赵建立者。公元319-333年在位，从奴隶到皇帝整个世界历史上的唯一一人。