根据早期典籍记载可以知道，北方少数民族也是炎黄子孙。《史记?匈奴列传》记载：“匈奴，其先祖夏后氏之苗裔也，曰淳维。”。《山海经?大荒北经》称：犬戎与夏人同祖，皆出于黄帝。《史记索隐》引张晏的话说：“淳维以殷时奔北边。”意即夏的后裔淳维，在商朝时逃到北边，子孙繁衍成了匈奴。还有一说认为，移居北地的夏之后裔，是夏桀的儿子。夏桀流放三年而死，其子獯鬻带著父亲留下的妻妾，避居北野，随畜移徙，即是中国所称的匈奴。王国维在《鬼方昆夷猃狁考》中，把匈奴名称的演变作了系统的概括，认为商朝时的鬼方、混夷、獯鬻，周朝时的猃狁，春秋时的戎、狄，战国时的胡，都是后世所谓的匈奴。
也就是说，北方少数民族同是炎黄子孙。只不过，当时北方少数民族有两大部落，一是匈奴（西胡和北胡），《史记》记载他们是夏后氏之苗裔淳维的子民；另一是东胡，《晋书》记载：“其先有熊氏之苗裔，世居北夷，号曰东胡。”有熊氏，就是黄帝部落。
在先秦时代，匈奴和东胡便是雄踞整个北方的显赫少数民族政权。他们与周朝属国同分中华之天下，你进我退，你退我进，你中有我，我中有你，互相影响，互相争斗又互相融合。而东胡，据《史记?匈奴列传》中记载，在春秋战国时，主要活动在当时燕国（在今北京一带）的北部和东北部，也就是今西辽河的上游老哈河、西拉木伦河流域。东胡正是后来蒙古族的嫡亲祖先。
东胡煞是强悍，经常与其邻国燕国和赵国交战，互有胜负。还经常骚扰其邻居匈奴，匈奴不胜其烦。东胡强盛之时，有“控弦之士十余万”，以每户五人出一个能骑善射的控弦之士计算，东胡强盛时的人口达到70万左右。在近800多年的过程中，东胡人始终生存在以蒙古科尔沁草原为中心的广大地域上。通过与中原各国发生的磨擦，，双方加深了解，相互融合的过程加快，为中华文明注入了新鲜血液。
公元前302年前后，赵国武灵王在位时，东胡人经常对赵国进行侵扰。赵国当时以车战为主，常被人健马疾、精骑善射的东胡人打败。为此，赵武灵王实行改革，实行“胡服骑射”——学穿胡人窄袖紧身的衣服，学习胡人骑马、射箭的技术，用骑战取代了车战。东胡人最先创建的中国骑兵兵种从此传入中原。
公元前315年前后，燕国被东胡击败。燕王将名将秦开当作“人质”，送往东胡质押。秦开得到了东胡人的信任，熟悉了东胡的内部情况，后来逃回赵国。领兵击败东胡。东胡人被迫退回了科尔沁草原中、东部。
秦二世元年（公元前209 年），匈奴冒顿单于（？～公元前174 年）继位。他在政治、军事等方面多所建树，使匈奴迅速强大起来。匈奴的冒顿单于刚即位时，东胡恃强向匈奴索要宝马、美女，冒顿单于采用麻痹敌人的做法，对东胡的要求一一满足。冒顿单于趁东胡王轻敌之际，向东胡发动进攻，大破东胡。从此东胡部落联盟瓦解，东胡大部成为匈奴的种族奴隶。还有一部分退居乌桓山和鲜卑山，分为乌桓和鲜卑二族。乌桓被曹操征伐之后衰落，鲜卑一族渐渐崛起。
匈奴大破东胡后，冒顿乘胜扩大霸业，西击走月氏，南并楼烦、白洋，收复被秦蒙恬夺占的河南故地。后又“北服混庾、屈射、丁零、鬲昆、薪犁”，“夷灭月氏”。“定楼兰、乌孙、呼揭，及其旁二十六国，皆以为匈奴。诸引弓之民并为一家。”冒顿单于第一次统一了大漠南北，建立起一个强大的奴隶制国家。
汉朝伊始，汉政权和匈奴有时战，有时和。至公元前1世纪末，经过中国汉帝国（含东、西两汉）近百年的征伐，原本在雄霸中国北方高原的匈奴人已经衰败不堪，在汉帝国的军事征剿和政治诱降瓦解下，昔日强大一时的匈奴分裂为多个部落。其中的北匈奴始终与汉帝国为敌，公元89年，东汉大将窦宪率汉军和南匈奴骑兵，在漠北重创北匈奴。损失惨重的北匈奴一度逃到西伯利亚地区，汉军撤退后北匈奴残部又回到漠北地区。本以为可以喘口气。但匈奴没想到，在今黑龙江。内蒙古大兴安岭地区又崛起了东胡民族的后代——鲜卑。鲜卑对已经残破不堪的北匈奴构成最直接的威胁。北匈奴与鲜卑多次交锋，但都以失败告终。同时在它南方还有东汉帝国和南匈奴。公元1世纪，北匈奴最终被鲜卑彻底击败。一小部分北匈奴人融入南匈奴。剩余的绝大部分北匈奴被迫离开世代繁衍生息的蒙古草原。开始漫长的西迁。
北匈奴远走欧洲，一部分在高加索，一部分在中伏尔加河地区（今天的俄罗斯鞑靼自治共和国），一部分在下多瑙河（今天的保加利亚），一部分在中多瑙河（今天的匈牙利）。中亚匈奴，一部分与图兰低地民族融合（中亚两河地区），一部分在阿富汗山区，一部分在印度旁遮普邦。中亚的一部分北匈奴人在南北朝时由叶尼塞河迁居至阿尔泰山。因阿尔泰山形似战盔「兜鍪」，俗称突厥，因以名其部落。这就是突厥民族的缘起。
公元375年，进入欧洲的北匈奴人开始大规模扩张，他们向西攻灭了阿兰人和东哥特人在多瑙河沿岸所建立的国家，向南攻克亚美尼亚，一直打到波斯和叙利亚。匈奴人以凶残闻名于世，他们所过之处往往留下一片废墟，一地白骨。进占匈牙利草原后，匈奴人暂时定居下来。公元433年，匈奴大单于阿提拉成为各部首领，建立了强有力的中央集权。东起伏尔加河，西至莱茵河，南抵多瑙河的广袤土地上出现了一个庞大帝国。在阿提拉统治的20年里，匈奴首都布达城成了欧洲的政治中心，各国使者云集于此，争先恐后地献上自己的贡品，表示臣服。匈奴帝国步入极盛时期。
东胡被匈奴的冒顿单于击败后，退居乌桓山和鲜卑山，分为乌桓和鲜卑二族。建安十二年（207年），曹操北征乌桓，战于柳城，斩蹋顿诸王，从此乌桓彻底衰落，地位为早就崛起的鲜卑取代。87年鲜卑崛起，在2世纪时继承匈奴领地，称雄塞北。4世纪西晋灭亡后，陆续在华北建立前燕、代国、后燕、西燕、西秦、南凉、南燕及北魏等国，而漠北则由鲜卑别支柔然称霸。439年北魏统一华北，之后时常与柔然发生冲突。而后北魏经历六镇之乱后分裂成东魏、西魏，东魏西魏随后也分别被北齐、北周所篡。最后北周统一华北，于581年因杨坚篡位而亡。称霸塞北的柔然汗国也于552年为突厥汗国所灭。于五胡十六国时期在青海建立的鲜卑别支吐谷浑汗国则维持到663年为吐番汗国所灭。
在西晋时期鲜卑主要分为段部、慕容部、拓拔部、柔然部等。其中柔然与南北朝时期统治中原北方的北魏拓拔氏多次交战。柔然被突厥系民族击败后，分为南北两支。柔然的南支逃到辽河上游，成为契丹人的祖先。北支逃到雅布洛诺夫山脉以东、外兴安岭以南的地区，是室韦的祖先。《旧唐书》有“蒙兀室韦”，“蒙兀” 与“蒙古”是同名异译，在蒙古语中意为“永恒的火焰”。
“蒙古”一词最早见于《旧唐书?室韦传》，传中称它为“蒙兀室韦”，是居于望建河（今额尔古纳河）南岸的一个部落，是室韦部落联盟的一个成员。《辽史》中所载的契丹语和蒙古语差不多，清末著名蒙古史学者沈曾植，经过用鲜卑语和蒙古语相比较之后，说“蒙古语与鲜卑语相去无几”，从地域上看，鲜卑起源于今额尔古纳河东南的大鲜卑山，而后来的室韦的活动地区也在额尔古纳河这一带，可见鲜卑、契丹、室韦、蒙古都是属于东胡这一族系的。
宋朝时期，在蒙古高原上的突厥系民族的统治逐渐衰落，东边的包括成吉思汗祖先的室韦诸部开始西迁至蒙古高原内部。室韦诸部在突厥语中称作鞑靼。西部蒙古诸部则在同一时期在由突厥或突厥化的部落的基础上形成。明朝时东、西蒙古分称为鞑靼和瓦剌。
12世纪时，室韦诸部子孙繁衍，氏族支出，渐分布于今鄂嫩河、克鲁伦河、土拉河三河上源和肯特山以东一带，组成部落集团。其中较著名的有乞颜、札答兰、泰赤乌、弘吉剌、兀良合等民族和部落。当时与他们同在蒙古高原上的有游牧在今贝加尔湖周围的塔塔儿部，住在贝加尔湖东岸色楞格河流域的蔑儿乞部，活动在贝加尔湖西区和叶尼塞河上源的斡亦剌部。这3部都使用蒙古语族语言。另外，还有三个信奉景教的突厥贵族统治的蒙古化的突厥部落，即占据回鹘汗庭故地周围的克烈部，其西的乃蛮部，和靠近阴山地区的汪古部。
1206年，铁木真在斡难河畔举行的忽里勒台(大聚会)上被推举为蒙古大汗，号成吉思汗，建立了大蒙古政权。从此，中国北方第一次出现了统一各个部落而成的强大、稳定和不断发展的民族——蒙古族。
综观蒙古族的形成历史，我们不能不说：所有蒙古人都是炎黄子孙，蒙古族就是华夏民族的一支，今天的蒙古国也在在独立以前就是名正言顺的中华一员。
