羯族的来源至今尚有争议，众说纷纭，汉武帝时，感到匈奴势大，独力难以对付，便派张骞为使者西出，前往西域联络匈奴的敌人月氏，月氏先强后弱，与匈奴是世仇，其时也经受不住匈奴的重击而西迁，“始月氏居敦煌、祁连闲，及为匈奴所败，乃远去”，待张骞千辛万苦联系到他们后，月氏人因为新得驻地，生活安乐，不愿再起战端而拒绝与汉朝联合攻打匈奴的建议。月氏与匈奴敌对时，互有胜负，抢货物掠人丁是常有的事。一些月氏人被匈奴抓去当奴隶，就是羯族的前身，经多年跟随征战，渐渐脱颖而出，成为匈奴的旁支“石勒字世龙，其先匈奴别部羌渠之胄”。
在月氏的旁边有康居国，两个国家是同一人种，与匈奴时友时敌，汉武帝大败匈奴，汉宣帝接力，匈奴分裂为呼韩邪单于和郅支单于二大力量，呼韩邪向汉朝臣服。（今日头条南方鹏首发）而郅支单于则向西扩展，被康居王接纳，安置在与乌孙国相邻的地方，联手对付乌孙，在此时期，应该也有康居人加入匈奴，羯族集二个国家的人而成，本是同一人种，都生得深目高鼻多须。《晋书》记载一件事，说后赵太子詹事孙珍曾患眼疾，请教侍中崔约如何治疗，崔约开玩笑说，泡在尿里就行，孙珍说，眼睛哪能浸得到？崔约说
“卿目宛宛（目字旁），正耐溺中”，说他眼窝深深，正能盛尿。
后来冉闵颁下杀胡令，号召国人杀光胡人特别是羯人，其中就错杀了一些人“于时高鼻多须至有滥死者半”，从这些可知，羯人具有深目、高鼻、多须的中亚人特征。而据陈寅恪先生考证认为，羯这个名称来自康居国，后来的《大唐西域记》可为佐证，其中载康居国
“兵马强盛，多是赭羯，赭羯之人，其性勇烈，视死如归，战无前敌”，这是羯族名字的由来，而“其先匈奴别部羌渠之胄”中的羌渠，是康居的音转。《晋书》说入塞匈奴十九姓中有羌渠种，就是康居种。羯族在中国历史上存在不长，西晋八王之乱，匈奴刘渊建立汉国前赵，继之羯人首领石勒建立后赵，是十六国之一。
