前情提要:本来这帖子是想单纯分析下最近龙芯的消息的,不过后续差了些资料发现还是这个很重要完全可以单开一贴
我一边查找资料一边用ai帮我整理的,可以确定肯定是有的放矢,不是ai胡说
CPU重新成为算力舞台的焦点
随着AI从“训练”向“推理”和“智能体”(AI Agents)转移,CPU正回到AI算力的C位。
· 算力配比重构:在AI训练阶段,CPU与GPU的配比约为1:8(即1颗CPU配套8颗GPU);进入推理阶段后,这一比例已收紧至1:4,未来可能进一步趋近1:1甚至CPU占优。
· Agent时代的新变化:AI任务从单纯的矩阵运算转向复杂多步思考与工具调用(如搜索、写代码、调用API),这些操作分支不断,GPU因控制流发散导致效率骤降,而擅长分支预测和串行处理的CPU反而成为瓶颈。
· 实测数据:在智能体工作流中,CPU任务可能占据总处理延迟的90%以上,而GPU只负责不到10%的模型推理。
我一边查找资料一边用ai帮我整理的,可以确定肯定是有的放矢,不是ai胡说
CPU重新成为算力舞台的焦点
随着AI从“训练”向“推理”和“智能体”(AI Agents)转移,CPU正回到AI算力的C位。
· 算力配比重构:在AI训练阶段,CPU与GPU的配比约为1:8(即1颗CPU配套8颗GPU);进入推理阶段后,这一比例已收紧至1:4,未来可能进一步趋近1:1甚至CPU占优。
· Agent时代的新变化:AI任务从单纯的矩阵运算转向复杂多步思考与工具调用(如搜索、写代码、调用API),这些操作分支不断,GPU因控制流发散导致效率骤降,而擅长分支预测和串行处理的CPU反而成为瓶颈。
· 实测数据:在智能体工作流中,CPU任务可能占据总处理延迟的90%以上,而GPU只负责不到10%的模型推理。

熊







影子枫阁
