蒙古既不是突厥直系后裔,也不是鲜卑直系后裔,而是一种同化了大量突厥人的东胡分支。鲜卑人则是东胡的另一个更靠南的分支。蒙古人发源于大兴安岭,而鲜卑人则出自老哈河和大兴安岭之间,是蒙古的南部近邻。贴张东胡诸语关系图吧:
具体论证是从语言学角度论证的,我以前回答过,详见这里:
简单地说一下,鲜卑语某一些音节比蒙古语更存古,比如蒙古语在开元音之间有p > γ > ∅音变,鲜卑语没有,而某一些方面鲜卑语还不如蒙古语存古,比如t辅音日化t > r,蒙古语就没有。因此两者基本上不可能是直系传承关系,但鲜卑语和蒙古语语法非常相似,变格后缀几乎一模一样,因此可以确定同缘关系,而且可以基本互通。就好比北京官话不是西安官话的直系后裔或祖先,但两者的确同源,而且可以基本互通。
另外,有一点比较有意思,蒙古人一般被认为出自室韦,毕竟史书上有“蒙兀室韦”这个群体。但室韦人是鲜卑人的一个分支,甚至室韦这个词本身就是鲜卑的一种鲜卑语方言变体,拥有b > w弱化音变,比如sərbi“突出,鲜卑” > širwi“室韦”,但中古蒙古语并没有这个音变,因此可以判断“蒙兀室韦”并不属于室韦主体,而是一个与室韦人杂居的近亲群体。这个关系类似于疆西杂居的柯尔克孜人和维吾尔人,两者都出自古突厥,但已经不属于同一民族了。