图拉丁吧 关注:8,065,420贴子:133,374,502
  • 3回复贴,共1

大模型练丹炉二选一,求指点

只看楼主收藏回复

想自己搞台机器练个大模型玩玩,不想投太多钱,看了一周图吧,目前在两套方案之间纠结。

其实最关键的就是2个问题:
1、16G的显存用来训练当前常见10亿级参数的大模型是不是够用?24G是不是就能好很多?
2、p40训练速度如何,是不是在可用的范围之内?
希望大佬多给些意见,谢谢了


IP属地:河南1楼2023-10-17 15:22回复
    木有人回复
    把p40换成p100,貌似性能会提升一些


    IP属地:河南2楼2023-10-17 20:58
    回复
      2026-01-21 23:44:24
      广告
      不感兴趣
      开通SVIP免广告
      想啥呢?大模型是这个两个能训练出来的吗🤔


      IP属地:江苏来自Android客户端3楼2023-10-23 20:42
      收起回复