图拉丁吧 关注:8,065,476贴子:133,354,304
  • 1回复贴,共1

大模型练丹炉二选一,求指点

取消只看楼主收藏回复

想自己搞台机器练个大模型玩玩,不想投太多钱,看了一周图吧,目前在两套方案之间纠结。

其实最关键的就是2个问题:
1、16G的显存用来训练当前常见10亿级参数的大模型是不是够用?24G是不是就能好很多?
2、p40训练速度如何,是不是在可用的范围之内?
希望大佬多给些意见,谢谢了


IP属地:河南1楼2023-10-17 15:22回复
    木有人回复
    把p40换成p100,貌似性能会提升一些


    IP属地:河南2楼2023-10-17 20:58
    回复