不过,西北人当中只有少部分人是来自山西洪洞县大槐树下,由于这些人外迁较早,文化、习俗根基较深,对后来移民影响也比较大,很多不是来自山西洪洞县的西北人,在这首民谣以及民间传说的影响下,开始逐渐接受和认同自己的根也在大槐树下的论调。
对此,民俗学家认为,西北作为古时边塞要地,战争不断,人口时常动迁,最早的原住民多为少数民族,如猃狁、羌族、土谷浑,以及北狄、西戎、鲜卑、突厥、回讫(又叫回鹘)等。他们虽然一度占据过西北的个别地盘繁衍生息,但后来逐渐在长期的战争、生产生活和其他民族或汉族相互吸收、融合,成为“老西北人”的一部分。可这些人也并非现在西北人的主流,历代大移民及从大江南北、长城内外来西北戍边的士卒,都是“老西北人”的组成部分。这其中,明代大移民规模最大,甘肃、宁夏、陕西以及周边区域流入人口数量最多,山西移民更是这些移民中的主流。这也就有了后来不管“老根子”是不是山西洪洞县人,都说自己是“大槐树下”来的人的缘由。