海角天涯30吧 关注:1,827贴子:87,907
  • 2回复贴,共1

【活动】xAI 55万张GPU加速卡利用率仅11%

取消只看楼主收藏回复

rt


IP属地:广东1楼2026-05-09 08:10回复
    全球AI竞赛的早已从“谁能抢到更多GPU”悄然转向“谁能把GPU真正用起来”。然而,坐拥约55万块英伟达GPU,实际利用率仅有11%,这一“打脸”般的数字,正将埃隆·马斯克(Elon Musk)旗下的人工智能公司xAI推上风口浪尖。
    据外媒《The Information》获取的xAI内部备忘录显示,xAI公司总裁迈克尔·尼科尔斯(Michael Nicolls)向团队坦承,公司目前的模型浮点运算利用率(MFU)约为11%。这个数字意味着,理论上能输出100份训练算力的硬件,实际仅产出了11份。
    xAI目前拥有约55万颗NVIDIA GPU,其中包括H100和H200系列。尽管这些GPU比最新的Blackwell产品落后了一个世代,但xAI部署的GPU规模之大令市场印象深刻。
    对于这一现状,Michael Nicolls在内部备忘录中给出了直白的评价:低得尴尬。


    IP属地:广东2楼2026-05-09 08:10
    回复
      2026-05-10 22:05:51
      广告
      不感兴趣
      开通SVIP免广告
      “11%”这个数字,并非指89%的GPU在完全闲置,而是衡量有效训练吞吐占硬件理论峰值算力比例的严苛指标。
      从行业基准来看,生产级大模型训练的MFU通常落在35%至45%之间。Meta和谷歌凭借深厚的软件堆栈积累,其GPU利用率分别可达约43%和46%。即便以“低效”著称的GPT-3训练时期,MFU也在21%-26%之间。相比之下,xAI的11%不仅远低于当前主流水平,甚至低于AI算力发展史上的“古早”尴尬时期。


      IP属地:广东3楼2026-05-09 08:11
      回复