龙芯吧 关注：26,874贴子：725,999
不感兴趣
开通SVIP免广告
基于龙芯2K3000及9A1000内集成的自研LG200系列通用GPU核心，在完成OpenGL及Vulkan图形软件栈的同时，针对算力软件环境通用性、易用性、兼容性等方面的需求，龙芯中科统筹规划算力软件发展，以集成的龙芯加速计算平台实现对算力芯片驱动、算力编程环境、AI模型推理等功能组件的全栈一体支持。本次推出的龙芯加速计算平台包括推理引擎、高性能算子库、专用编译器、运行时环境、调试工具、性能分析套件等核心组件，支撑OpenCL 3.0与CUDA两类编程模型接口，集成BLAS/DNN等功能的算子库，实现对主流AI模型的高效推理，支持龙芯全系列算力芯片，一站式完成系统选型、算力调用、模型调优、应用部署等全链条任务。产品可应用于工业视觉、智能安防、智慧零售、车载感知等多样化业务场景，为人工智能领域的应用开发与部署提供便捷的全栈环境支撑。
技术详细链接网页链接
技术详细链接网页链接
基于龙芯2K3000及9A1000内集成的自研LG200系列通用GPU核心，在完成OpenGL及Vulkan图形软件栈的同时，针对算力软件环境通用性、易用性、兼容性等方面的需求，龙芯中科统筹规划算力软件发展，以集成的龙芯加速计算平台实现对算力芯片驱动、算力编程环境、AI模型推理等功能组件的全栈一体支持。本次推出的龙芯加速计算平台包括推理引擎、高性能算子库、专用编译器、运行时环境、调试工具、性能分析套件等核心组件，支撑OpenCL 3.0与CUDA两类编程模型接口，集成BLAS/DNN等功能的算子库，实现对主流AI模型的高效推理，支持龙芯全系列算力芯片，一站式完成系统选型、算力调用、模型调优、应用部署等全链条任务。产品可应用于工业视觉、智能安防、智慧零售、车载感知等多样化业务场景，为人工智能领域的应用开发与部署提供便捷的全栈环境支撑。
图片
龙芯加速计算平台
图片
龙芯加速计算平台可实现稳定、高效的运行时环境，完善支持OpenCL3.0与CUDA两大并行编程模型。平台运行时库具有完备的资源调度管理能力，具有智能内存管理、任务队列调度、事件同步管理等基础核心功能。底层驱动完成对各类硬件计算资源的统一抽象与集约化管理，拥有优异的并发处理能力，可显著提升硬件资源利用率，高效支撑多进程、多任务并发执行。
龙芯加速计算平台内置高性能算力编译器，支持OpenCL 3.0和CUDA两种主流编程接口，针对龙芯通用GPU指令集架构和特性进行深度优化，为算力编程开发提供统一、高效的编译基础设施。通过在API层面对主流编程范式进行兼容，可显著降低开发者学习与使用成本，简化应用开发及迁移适配工作，有效缩短产品开发部署周期。
龙芯加速计算平台集成调试与分析工具，具备执行断点设置、寄存器访问、张量单元等关键部件状态检查等主要功能，可快速定位访存越界、计算异常、同步死锁等常见核函数开发问题，大幅提高算力编程的调试开发效率。
算子库是龙芯加速计算平台的重要组件，目前已包括基础数学计算（BLAS）、神经网络（DNN）等领域的高性能算子库。基础线性代数算子方面，对FP32、INT8 等数据类型的矩阵乘法（GEMM）、矩阵向量乘、向量运算等核心算子实现汇编级深度优化。神经网络算子方面，完整覆盖卷积、池化、归一化、全连接、激活函数等常用算子。针对龙芯通用GPU的张量单元和缓存层次结构等微结构特性开展专门优化，算子库对算力硬件的利用率达到业界先进水平。
在硬件和系统支持方面，龙芯加速计算平台覆盖龙芯全系列算力芯片，支持Linux多内核版本系统，后续还将与9A2000、9A3000等研制及规划中的算力芯片同步演进，实现对算力芯片的代际兼容，与芯片硬件创新协同发展。
为更好地实现对AI模型的推理优化支持，龙芯中科研制高性能推理引擎（LacInfer），可充分释放龙芯通用GPU的硬件性能潜能，显著提升AI模型推理效率。推理引擎通过算子融合、常量折叠、算子消除、布局转换等优化手段，生成高度精简的计算图。在算子融合方面，推理引擎采用多层级融合策略，支持逐元素算子融合与复杂的多分支多输入算子融合，支持卷积、偏置与激活算子的深度融合，显著减少数据访存开销，大幅提升推理任务的综合性能。
龙芯加速计算平台完善支持ONNX Runtime等深度学习框架。通过将高性能推理引擎LacInfer作为ONNX Runtime的执行后端，用户在龙芯通用GPU平台上可直接部署由PyTorch和TensorFlow等主流训练框架导出的ONNX模型，无需额外转换或重写代码，实现“一次训练，多端部署”。目前在龙芯9A1000等芯片上已完成对计算机视觉等主流AI模型的深度优化，模型类型涵盖目标检测、图像分割、姿态估计、旋转目标检测等主要领域，在实现高性能推理速度的同时，量化推理精度损失也处于行业领先水平。
上述算力软件已经支持部分早期客户，基于2K3000及9A1000开展多款具身智能型号设备的智能体研制。
图片
图片
图片
图片
图片
随着加速计算平台的产品发布，龙芯将携手产业链合作伙伴和广大开发者，共建算力和AI软件生态，持续夯实底层技术底座，以高效算力赋能千行百业智能化应用创新。
图片
龙芯加速计算平台
图片
龙芯加速计算平台可实现稳定、高效的运行时环境，完善支持OpenCL3.0与CUDA两大并行编程模型。平台运行时库具有完备的资源调度管理能力，具有智能内存管理、任务队列调度、事件同步管理等基础核心功能。底层驱动完成对各类硬件计算资源的统一抽象与集约化管理，拥有优异的并发处理能力，可显著提升硬件资源利用率，高效支撑多进程、多任务并发执行。
龙芯加速计算平台内置高性能算力编译器，支持OpenCL 3.0和CUDA两种主流编程接口，针对龙芯通用GPU指令集架构和特性进行深度优化，为算力编程开发提供统一、高效的编译基础设施。通过在API层面对主流编程范式进行兼容，可显著降低开发者学习与使用成本，简化应用开发及迁移适配工作，有效缩短产品开发部署周期。
龙芯加速计算平台集成调试与分析工具，具备执行断点设置、寄存器访问、张量单元等关键部件状态检查等主要功能，可快速定位访存越界、计算异常、同步死锁等常见核函数开发问题，大幅提高算力编程的调试开发效率。
算子库是龙芯加速计算平台的重要组件，目前已包括基础数学计算（BLAS）、神经网络（DNN）等领域的高性能算子库。基础线性代数算子方面，对FP32、INT8 等数据类型的矩阵乘法（GEMM）、矩阵向量乘、向量运算等核心算子实现汇编级深度优化。神经网络算子方面，完整覆盖卷积、池化、归一化、全连接、激活函数等常用算子。针对龙芯通用GPU的张量单元和缓存层次结构等微结构特性开展专门优化，算子库对算力硬件的利用率达到业界先进水平。
在硬件和系统支持方面，龙芯加速计算平台覆盖龙芯全系列算力芯片，支持Linux多内核版本系统，后续还将与9A2000、9A3000等研制及规划中的算力芯片同步演进，实现对算力芯片的代际兼容，与芯片硬件创新协同发展。
为更好地实现对AI模型的推理优化支持，龙芯中科研制高性能推理引擎（LacInfer），可充分释放龙芯通用GPU的硬件性能潜能，显著提升AI模型推理效率。推理引擎通过算子融合、常量折叠、算子消除、布局转换等优化手段，生成高度精简的计算图。在算子融合方面，推理引擎采用多层级融合策略，支持逐元素算子融合与复杂的多分支多输入算子融合，支持卷积、偏置与激活算子的深度融合，显著减少数据访存开销，大幅提升推理任务的综合性能。
龙芯加速计算平台完善支持ONNX Runtime等深度学习框架。通过将高性能推理引擎LacInfer作为ONNX Runtime的执行后端，用户在龙芯通用GPU平台上可直接部署由PyTorch和TensorFlow等主流训练框架导出的ONNX模型，无需额外转换或重写代码，实现“一次训练，多端部署”。目前在龙芯9A1000等芯片上已完成对计算机视觉等主流AI模型的深度优化，模型类型涵盖目标检测、图像分割、姿态估计、旋转目标检测等主要领域，在实现高性能推理速度的同时，量化推理精度损失也处于行业领先水平。
上述算力软件已经支持部分早期客户，基于2K3000及9A1000开展多款具身智能型号设备的智能体研制。
图片
图片
图片
图片
图片
随着加速计算平台的产品发布，龙芯将携手产业链合作伙伴和广大开发者，共建算力和AI软件生态，持续夯实底层技术底座，以高效算力赋能千行百业智能化应用创新。
不感兴趣
开通SVIP免广告
不感兴趣
开通SVIP免广告
