昇腾介绍

实现方式

昇腾从芯片硬件、异构计算架构、AI框架，到应用使能实现了全国产化。**异构计算架构（CANN）**是对标英伟达的 CUDA + CuDNN 的核心软件层，包括引擎、编译器、执行器、算子库等，承载计算机的单元为 AI 芯片，异构计算架构主要负责调度分配计算到对应的硬件上；CANN 上承 AI 框架，下接 AI 处理器硬件，先进的异构架构使得神经网络执行过程的硬件交互时间有效缩短，从而实现对硬件性能的进一步利用。框架层，除了有华为自研mindspore框架，还支持主流的pytorch/tensorflow/paddlepaddle等第三方主流框架，pytorch等第三方框架是通过 “插件” torch_npu等Adapter的形式支持的，对用户无感。 Alt text

Alt text

迁移成本

pytorch迁移

模型库ModelZoo覆盖了市面上95%以上的模型。

算子支持的情况下，只需修改设备类型：cuda->npu;分布式backend：nccl->hccl;混合精度：若没有则添加，若有则无需改动；
算子不支持的情况下，需算子开发，2周左右。

pytorch迁移至mindspore

官网Mindspore设有API映射表，可参照对比，且大部分实现接口一样。