當年，冒頓單於擊敗東胡，東胡分裂，其中的一支退到大鮮卑山，被稱為拓跋鮮卑。關於“拓跋”這個姓氏的來源，有兩種說法，一是拓跋族自己的說法，拓跋族認為自己是黃帝的後代，黃帝以土德王，而在拓跋族的語言中，“土”為“托”，“首領”叫作“跋”，所以他們把“托跋”作為姓氏，後來稱“拓跋”；二是史學家的說法，有史學家認為“鮮卑父匈奴母”的後裔稱為“拓跋”。1980年，考古學家在今大興安嶺北段、內蒙古呼倫貝爾市鄂倫春自治旗阿裏河鎮發現了嘎仙洞，裏麵的刻石祝文與史書記載一致，證實了大鮮卑山的存在。
後來，拓跋鮮卑南遷至今河套平原及大青山（屬陰山山脈）一帶，拓跋首領拓跋力微又率部族遷徙到盛樂（今內蒙古和林格爾縣）。曹魏景元二年（261），拓跋力微把兒子拓跋沙漠汗送到中原做人質。拓跋沙漠汗身高八尺，英俊魁梧，相貌不凡，他在洛陽廣交朋友，這讓西晉幽州刺史衛瓘大為忌憚，他賄賂拓跋部落酋長，讓他們除掉沙漠汗。晉鹹寧二年（277），部落酋長聯手把沙漠汗殺害了，拓跋力微因此黯然神傷，一病不起，於當年逝世，年一百零四歲，在位五十八年。若幹年後，道武帝拓跋珪建立魏國，尊奉拓跋力微為始祖。
拓跋力微去世，他的兒子拓跋悉鹿繼位，在位九年後去世。拓跋悉鹿的弟弟拓跋綽繼位，在位七年後去世。之後繼位的是拓跋沙漠汗的小兒子拓跋弗，在位僅一年就去世了，然後是拓跋力微的兒子拓跋祿官繼位。這時匈奴劉淵建立了漢趙（漢國），並州刺史司馬騰請求拓跋部一同出兵攻打劉淵，劉淵大敗。
拓跋祿官在位十三年後去世，拓跋沙漠汗的另一個兒子拓跋猗盧繼位。拓跋猗盧有勇有謀，統一了拓跋三部，後來和晉幽州刺史劉琨合兵大敗匈奴劉氏，被晉封為代公，後又被封為代王，“代”這個政權正式建立。公元316年，代王拓跋猗盧被兒子拓跋六修殺死，此事引發部落內部動亂，部族分裂，拓跋氏逐漸衰落。