今年以来一直想攒台电脑部署大模型和SD跑图,终于在十一开始行动,双十一成功点火运行,中间的折腾还是不少的。
最开始是想上最便宜的4060ti16G,整机下来预算得5K,怎耐囊中羞涩,于是在淘宝上发现了魔改的2080ti22G和3070 16G,但魔改这玩意可靠性未知,而且也便宜不到哪去。无意中发现了tesla计算卡这个神奇玩意一见钟情,最终确定了全套洋垃圾的方案,直接上配置
CPU: E5 2680 V4
主板:华南X99 F8
内存:三星 2400 16G * 2
计算卡:tesla P100 16G
CPU风扇:东海X6
P100风扇:闲鱼3D涡轮风扇
以上总花费不到1900元,需要吐槽的是,E5才60块钱,压它的风扇竟然要100
然后是老电脑的机箱、电源、硬盘、显卡发挥余热
一番折腾后成功点亮,鲁大师检测的时候P100的风扇还没到,所以就没插上去

整机的性能还是基本达到预期的,跑ChatGLM3-6B相当丝滑,比百度的文心一言响应速度还要快。跑SD的话只能说能用,图片生成速度在可忍耐范围,毕竟就这点钱,就像有人说的,它不嫌你穷,你也别嫌它慢
最后上些图,都是装好机后用SD跑摸索着跑的,网上搜些提示词,自己再想几个,挑了几张能看的,得瑟一下
不过跑图过程中内存会经常占满,偶尔会报内存不能为read的错误










最开始是想上最便宜的4060ti16G,整机下来预算得5K,怎耐囊中羞涩,于是在淘宝上发现了魔改的2080ti22G和3070 16G,但魔改这玩意可靠性未知,而且也便宜不到哪去。无意中发现了tesla计算卡这个神奇玩意一见钟情,最终确定了全套洋垃圾的方案,直接上配置
CPU: E5 2680 V4
主板:华南X99 F8
内存:三星 2400 16G * 2
计算卡:tesla P100 16G
CPU风扇:东海X6
P100风扇:闲鱼3D涡轮风扇
以上总花费不到1900元,需要吐槽的是,E5才60块钱,压它的风扇竟然要100
然后是老电脑的机箱、电源、硬盘、显卡发挥余热
一番折腾后成功点亮,鲁大师检测的时候P100的风扇还没到,所以就没插上去

整机的性能还是基本达到预期的,跑ChatGLM3-6B相当丝滑,比百度的文心一言响应速度还要快。跑SD的话只能说能用,图片生成速度在可忍耐范围,毕竟就这点钱,就像有人说的,它不嫌你穷,你也别嫌它慢
最后上些图,都是装好机后用SD跑摸索着跑的,网上搜些提示词,自己再想几个,挑了几张能看的,得瑟一下
不过跑图过程中内存会经常占满,偶尔会报内存不能为read的错误










黑瞳蓝奈
修行大湿















