AI 加速引擎 AMLightning

计算资源优化

AI 加速引擎 AMLightning 充分发挥硬件的张量计算能力

在高通平台上,通过量化感知训练、自定义操作符和操作符融合等技术,实现算法在主流芯片平台上的的最优能效

Al算法加速

成熟的 AI 算法快速迁移到硬件平台

操作符定制

为客户特定算法开发高效操作符

操作符融合

分析客户算法模型并通过操作符融合加速算法推理速度

算法调优

优化 AI 算法在硬件平台上的后台调度性能,减少精度损失

AI 加速引擎 AMLightning

硬件计算单元优化

AI芯片的厂家及型号越来越多,并且多为异构计算单元;开发者需要进行复杂的适配优化,才能获得优质的应用服务。

  • 解决芯片计算单元无法快速发挥最佳性能的问题
  • 缩短AI项目开发周期

帮助开发者快速调度AI芯片各个计算单元的能力,让各类推理任务运行在最适合的计算单元,从而提升运行效率。

  • 多任务并行计算
  • 不同任务运行在最优计算单元
  • 一键调度增强算力

基于高通芯片平台已部署的大模型