回复：感觉16g显存淘汰就在这几年了

那个游戏敢这么做，百分百亏本的

这种逆天玩意属于是既不了解游戏也没碰过本地模型部署的，这帖子应该发去隔壁弱智吧
springerlink上的期刊我就不给你挂了，贴主可以自己去github上看看本地部署模型的显存需求，体量小于30b就是个胡言乱语的小模型，精度和实时生成的正确率挂钩，个人电脑范畴内多半只能跑int4
精度想提得高一点跑bf16的话，显存占用是int4的4倍
近几年的游戏显存8g起步，默认显卡显存大小同时满足游戏和推理模型的情况下，神人贴主是怎么想的出显卡能同时进行着色器和推理模型这两个进程的

顺带提一下cpu的事，锐龙7000/9000系的cpu能用英特尔的avx512干活，版本是砍了半宽之后的。
上一代7800x3d开avx512推理显存要求24g的模型都很吃力，贴主是怎么yy将来的cpu能边处理游戏进程边跑本地模型的？

哪会这么快一开始顶多用些特定训练的小模型，真大ai模型起码要5-6年吧早换卡了

@响亮的名字656

额，别的不说，就配音这一块，AI哪有真人感情丰富

淘汰的前提是价格能打下来，让大部分人用得起

NVIDIA ACE：你好
但是NV的方案最小的模型只吃1.5G显存，不太影响

想法是不错得，不过这样的做法，就等同于游戏革命了，会有一，两个的游戏出来，就像当年的孤岛危机，显卡杀手，但是，普及的话就任重道远了。

楼主烧饼，鉴定完毕

从来都是游戏兼容配置的