杭州计算中心目录

简介

• 中心介绍
• 昇腾介绍
  • 实现方式
  • 迁移成本
• 资料汇总
  • 开发者资料
  • 模型代码仓

AICC平台

• 使用手册
  • 1.申请资源
  • 2.ModelArts使用
  • 3.OBS使用及数据上传
  • 4.上传镜像
  • 5.其他资料

大模型

• 环境部署
  • 系统安装
    • 修改本机网址
    • 添加raid
    • 1. 打开虚拟控制台
    • 2. 准备系统镜像
    • 挂载硬盘
  • 获取软件包
    • 在线获取
    • 离线获取
  • 安装驱动固件
    • 检查驱动是否安装成功
  • 安装docker及docker-runtime
• 大模型训练
  • MindFormers
    • 1.基础准备
    • 2.套件安装
    • 3.单机多卡
    • 多机多卡分布式训练
  • MindSpeed-LLM
    • 1.MindSpeed-LLM简介
    • 2.镜像准备
    • 3.套件安装
    • 4.准备数据集
    • 5.将权重从 huggingface 格式转化为 megatron 格式
    • 6.开启训练(8卡)
    • 7.转回HF权重(8卡)
  • MindSpeedLLM多机流程
    • 1️.获取镜像
    • 2️.创建 Notebook
    • 3️.数据获取
    • 4️.数据上传 ⬆
    • 5️.保存镜像
    • 6️.创建训练作业
• 大模型推理
  • vllm
    • 获取运行环境
    • 起服务
  • MindIE
    • 1.环境准备
    • 2.修改配置
    • 3.启动MindIE
    • 4.http请求测试
    • 5.Gradio内网穿透
    • 6.性能精度测试
    • 6.停止服务
  • MindFormers
    • 1.基础准备
    • 2.套件安装
    • 3.权重转换
    • 4.推理
• DeepSeek-R1系列推理
  • 基于MindIE的DeepSeek-R1分布式推理部署指导(A2服务器)
    • 环境准备
    • 配置裸金属相关环境
    • 准备容器
    • 权重下载与转换
    • 配置分布式通信
    • 纯模型测试
    • MindIE服务化启动
  • 基于MindIE的DeepSeek-R1分布式推理部署指导(300I DUO卡)
    • 300I DUO环境配置
    • 1.准备环境
    • 2. 修改配置文件
    • 3.修改server配置文件
    • 4.启动服务
    • 5.测试

成为伙伴

• 成为伙伴

FAQ

• 常见问题