王梵志是卫州黎阳人。在黎阳城东面十五里处有个人叫王德祖，隋文帝在位时，他家里有棵林檎树，树上生了个斗大的瘤子，过了三年腐烂了，德祖看见后便剖开这个瘤子的外皮，看到里面有个胎儿，便把他收养了起来。
这个小孩长到七岁时，会说话了，他说：“谁生养了我，叫什么名字？”德祖便将他的身世如实跟他说了，于是起名叫林木梵天，后来改叫梵志。他说：“王家养育了我，我就姓王吧。”梵志作诗给别人看，诗写得很有义理和旨趣。