网页资讯视频图片知道文库贴吧地图采购
进入贴吧全吧搜索

 
 
 
日一二三四五六
       
       
       
       
       
       

签到排名:今日本吧第个签到,

本吧因你更精彩,明天继续来努力!

本吧签到人数:0

一键签到
成为超级会员,使用一键签到
一键签到
本月漏签0次!
0
成为超级会员,赠送8张补签卡
如何使用?
点击日历上漏签日期,即可进行补签。
连续签到:天  累计签到:天
0
超级会员单次开通12个月以上,赠送连续签到卡3张
使用连续签到卡
11月21日漏签0天
显卡吧 关注:7,809,559贴子:207,027,635
  • 看贴

  • 图片

  • 吧主推荐

  • 视频

  • 游戏

  • 18回复贴,共1页
<<返回显卡吧
>0< 加载中...

纠正下吧里一些对于AI以及相关用卡的误区

  • 只看楼主
  • 收藏

  • 回复
  • zlalex_Bonn
  • Wildcat
    12
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
首先我这里讨论的AI比较局限,因为我是做CV方向的,对其他方向比如NLP仅停留在看知乎或者公众号的水平。
我个人从事了很长时间CV领域的研究和应用,硕士到博士到博后都是这个方向,顶刊顶会都发过,具体的落地应用也做了不少。看到吧里讨论的比较多关于AI、炼丹、生产力的讨论总忍不住要回复一下。结果发现我好像很少发主贴。我先简单说几点吧:
1. AI本身很广泛,吧里流行的AI绘图只是其中一个应用。而且作为CV领域的一块我个人认为甚至算不上主流应用。CV领域的主流应用是目标检测、图像分割/场景解析、图像分类;
2. 深度学习是实现AI的一种手段。卷积网络是深度学习应用到CV领域的主要方法。因为卷积计算可以转变为矩阵运算,而GPU对于这种多位置可并行触发的、简单的加减乘除效率非常高,因此多用GPU而不是GPU来处理;
3. 炼丹通常指训练过程。因为卷积网络本身无法证明其局部最优就是全局最优,因此对于初始的参数可能比较敏感。另外,网络由于比较复杂某些结构的有效性可能无法从理论上进行完全分析。因此网络性能的高低就像古代人炼丹一样,投入元素的种类(网络模块的选择)、投入的比例(模块搭建的方式)、炉温的高低(学习率,优化策略等)不同都会导致成丹效果(网络性能)。
4. 目前来说,N卡虽不是卷积网络的唯一选择,但对于我们来说可能就是唯一选择,以后不知道,目前是这样。我认为的原因有三:
1)网络模块很多,但主流框架支持的是否对AMD进行了完全支持?另外,有些网络模块主流框架都不支持,是研究者自己写的,但大部分研究者为了赶进度只会针对CUDA进行编程实现,这不是python,是CUDA语言(类C++)语言编程。
2)Windows的支持。现状是很多工业软件,比如各种流水线上的控制系统都是windows系统下的控制软件。如果不支持windows开发就无法和控制软件进行联合工作。有人会说Rocm也支持了windows,但很多现场的windows版本很老,比如windows 7,甚至xp。这种情况下是否Rocm还支持?
3)部署加速。Nvidia为自己的显卡设计了TensorRT框架,它通过各种优化让网络能够高效的运行在GPU上,而且支持C++的实现。这不同于仅用pytorch搞搞研究,这是要交付给业主单位使用的。你的模型在没有tensorRT的加持下能达到实时性要求吗?你总不能交付python代码吧,否则你的知识产权如何保护?
5. 显存的焦虑。网络训练需要大显存,越大越好。但实际工作中网络是在推理模式下的。你不可能要求业主也能够训练,而且你也不会让业主训练而降低你的使用价值。在推理模式下显存消耗很低,因为无需存储反向传播的梯度和中间层的结果。我们交付的工控机多用1060或者3060显卡。完全没有问题的。
先写这么多吧。贴个我自己家里搞原型开发的机器,各种性价比产品,通常不用训练,训练去实验室有服务器。


  • zlalex_Bonn
  • Wildcat
    12
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
顶


2025-11-21 10:26:43
广告
不感兴趣
开通SVIP免广告
  • jeffrey_tan_
  • 先看吧规
    1
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
好帖帮顶,建议增加AI用卡的频率一般如何,是否非常消耗显卡寿命


  • 第十一国际
  • 熟记吧规
    5
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
谢谢楼主 请问amd最近的超算业内评价如何


  • F0rest
  • 熟记吧规
    5
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
楼主,我下半年要搞卷积神经网络,跨专业过来的。请问选购电脑有什么建议吗上不起4090


  • 非高斯分布
  • 先看吧规
    1
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
楼主 我研究生也做这个4070 12g和4060ti 16g哪个更好点呀 感觉上transformer会不会12g不太够


登录百度账号

扫二维码下载贴吧客户端

下载贴吧APP
看高清直播、视频!
  • 贴吧页面意见反馈
  • 违规贴吧举报反馈通道
  • 贴吧违规信息处理公示
  • 18回复贴,共1页
<<返回显卡吧
分享到:
©2025 Baidu贴吧协议|隐私政策|吧主制度|意见反馈|网络谣言警示