水~下次要不要问问胡老师独显出来后打算如何解决大模型适配问题

虽然在9a1000都没出来、驱动问题都八字没一撇的时候提这个，显得十分奇怪。但最近已经看到很多关于计算卡适配国内大模型的新闻了，一方面还是老生常谈的“英伟达显卡有CUDA优势”，一方面是DS适配昇腾和寒武纪之类的生态突破，都在强调其中有多难。
而且我记得之前不止一家计算卡宣布自己可以兼容cuda，但事实来看效果都没那么好。龙芯怎么解决这个问题呢？难道还想继续二进制翻译cuda？

目前看来做gpu 的ai部分大概率是为了融资方便否则2k3000 出来这么久也不会没见过有人跑过大模型

不感兴趣

开通SVIP免广告

首先把Vulkan支持后再说别的......
说是首发只支持OpenCL，那就是跟AI关系不大，通用Vulkan后端用不了。
远景倒是跟其他家一样，维护一个pytorch自己的后端，看社区适配速度。

肯定是要搞自己一套AI生态的

。
现在看来，盘古应该是专门为昇腾画的大饼了，
没想到AI爆发得这么快，
再想启动研发已经来不及了。

应用达人

应用吧活动,去领取

活动截止:2100-01-01

去徽章馆》

学intel先自己整合一套方案出来，生态想铺开至少也要把ollama、vllm、llama.cpp的官方支持搞定，但是这生态连御三家都兼容的乱七八糟，就更不用说什么兼容cuda，说出来炒炒股就得了，其实都是在自己搞一套，你都找不到什么资料

在平台兼容这件事上，国内应该没人敢说比龙芯更优秀，所以兼容cuda对于龙芯来说技术上有可行性，也是龙芯能在AI领域快速补短板的唯一办法，当然自己的AI架构也不会丢，两条腿走路是龙芯的一贯方针。

2K3000集成的LG200，更适合边缘推理，视频&图片识别已经有演示视频
https://www.bilibili.com/video/BV1vo786tE9K/?spm_id_from=333.337.search-card.all.click&vd_source=2eafd855c332caf4a8ba34c208666d03
11分钟处

以9A1000相对孱弱的AI计算能力，大模型训练算力卡是几年后的事情。

不感兴趣

开通SVIP免广告

明年问

扫二维码下载贴吧客户端

下载贴吧APP
看高清直播、视频！

30回复贴，共1页

<<返回龙芯吧

分享到:

日	一	二	三	四	五	六