环境部署【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge1. 环境准备本项目支持源码编译在源码编译前需要确保已经安装CANN软件Toolkit开发套件包和ops包可选若运行样例还需要安装NPU驱动和固件。软件安装方式请根据如下描述进行选择安装方式说明使用场景使用WebIDE安装WebIDE可提供在线直接运行的昇腾环境当前可提供单机算力默认安装最新商发版CANN软件包目前是CANN 8.5.0和固件/驱动包。适用于没有昇腾设备的开发者。DockerDocker镜像是一种高效部署方式一键部署CANN包和必备依赖。当前OS仅支持Ubuntu操作系统。适用有昇腾设备需要快速搭建环境的开发者。手动安装软件包-适用有昇腾设备想体验手动安装CANN包或体验最新master分支能力的开发者。方式一使用WebIDE安装对于无环境的用户可直接使用WebIDE开发平台即“算子一站式开发平台”该平台为您提供在线可直接运行的昇腾环境环境中已安装必备的软件包无需手动安装。更多关于开发平台的介绍请参考LINK。进入开源项目单击“云开发”按钮使用已认证过的华为云账号登录。若未注册或认证请根据页面提示进行注册和认证。根据页面提示创建并启动云开发环境单击“连接 WebIDE”进入算子一站式开发平台开源项目的资源默认在/mnt/workspace目录下。方式二Docker部署对于不依赖昇腾设备的开发者若您想快速搭建编译构建环境可使用Docker镜像部署。说明 镜像文件比较大下载需要一定时间请您耐心等待。关于docker命令的选项介绍可通过docker --help查询。1.安装驱动与固件运行态依赖宿主机上昇腾驱动与固件的下载和安装操作请参考《CANN软件安装指南》中“准备软件包”和“安装NPU驱动和固件”章节。驱动与固件是运行态依赖若仅编译算子可以不安装。2.下载镜像步骤1以root用户登录宿主机。确保宿主机已安装Docker引擎版本1.11.2及以上。步骤2从昇腾镜像仓库拉取已预集成CANN软件包及开发所需依赖的镜像。命令如下请根据实际架构选择以Atlas A2系列产品为例仅编译场景无需关注# 示例拉取ARM架构的CANN开发镜像 docker pull --platformarm64 swr.cn-south-1.myhuaweicloud.com/ascendhub/cann:9.0.0-beta.1-910-ubuntu22.04-py3.11 # 示例拉取X86架构的CANN开发镜像 docker pull --platformamd64 swr.cn-south-1.myhuaweicloud.com/ascendhub/cann:9.0.0-beta.1-910-ubuntu22.04-py3.113.运行Docker根据使用场景选择不同的启动方式场景1仅编译构建不需要运行样例如果只需要进行代码编译构建无需访问NPU设备使用以下简化命令docker run --name cann_container -it -u root --privilegedtrue -v /home/ge/:/home/ge swr.cn-south-1.myhuaweicloud.com/ascendhub/cann:9.0.0-beta.1-910-ubuntu22.04-py3.11 bash场景2需要运行样例需要访问NPU设备如果需要运行样例或测试容器需要访问宿主机的NPU设备。以Atlas A2系列产品为例docker run --name cann_container \ --device /dev/davinci0 \ --device /dev/davinci_manager \ --device /dev/devmm_svm \ --device /dev/hisi_hdc \ -v /usr/local/dcmi:/usr/local/dcmi \ -v /usr/local/bin/npu-smi:/usr/local/bin/npu-smi \ -v /usr/local/Ascend/driver/lib64/:/usr/local/Ascend/driver/lib64/ \ -v /usr/local/Ascend/driver/version.info:/usr/local/Ascend/driver/version.info \ -v /etc/ascend_install.info:/etc/ascend_install.info \ -it -u root --privilegedtrue \ swr.cn-south-1.myhuaweicloud.com/ascendhub/cann:9.0.0-beta.1-910-ubuntu22.04-py3.11 bash参数说明注意事项--name cann_container为容器指定名称便于管理。可选取值可自定义。--device /dev/davinci0将NPU设备文件映射到容器内。必选运行样例时。多个设备可多次使用此参数如/dev/davinci0/dev/davinci1。--device /dev/davinci_manager昇腾设备管理器负责设备资源管理。必选运行样例时。--device /dev/devmm_svm设备内存管理单元。必选运行样例时。--device /dev/hisi_hdc昇腾高清编解码设备。必选运行样例时。-v /usr/local/dcmi:/usr/local/dcmi挂载DCMIDevice Communication Management Interface目录。必选运行样例时。-v /usr/local/bin/npu-smi:...挂载NPU监控工具用于查看NPU状态。必选运行样例时。-v /usr/local/Ascend/driver/...挂载NPU驱动库和版本信息。必选运行样例时。-v /etc/ascend_install.info:...挂载昇腾软件安装信息。必选运行样例时。-it-i交互式和-t分配伪终端的组合参数。必选-u root以 root管理员身份进入容器。建议--privilegedtrue开启容器最高特权模式。建议swr.cn-south-1.myhuaweicloud.com/ascendhub/cann:...指定要运行的Docker镜像。必选请确保此镜像名和标签tag与你通过docker pull拉取的镜像完全一致。bash容器启动后立即执行的命令。必选说明场景1适用于仅编译构建GE的场合无需NPU设备支持场景2适用于需要运行样例或进行NPU相关测试的场合需要宿主机已安装NPU驱动和固件如果使用其他型号芯片如950、Atlas A3系列产品请相应调整--device参数中的设备名称4.初始化环境进入容器后执行以下命令初始化环境场景1仅编译构建curl -fsSL https://raw.gitcode.com/cann/ge/raw/master/scripts/init_env.sh | bash场景2需要运行样例以Atlas A2系列产品为例curl -fsSL https://raw.gitcode.com/cann/ge/raw/master/scripts/init_env.sh | bash -s -- --chip-type 910b说明对于其他芯片型号请将--chip-type参数替换为对应的型号如950、A3方式三手动安装软件包安装驱动与固件可选仅运行样例依赖驱动与固件的下载和安装操作请参考《CANN软件安装指南》中“准备软件包”和“安装NPU驱动和固件”章节。驱动与固件是运行样例依赖若仅编译环境可以不安装。安装CANN包场景1体验master版本能力或基于master版本进行开发请单击下载链接获取最新时间版本并根据产品型号和环境架构下载对应包。安装命令如下更多指导请参考CANN软件安装指南。安装CANN Toolkit开发套件包。# 确保安装包具有可执行权限 chmod x Ascend-cann-toolkit_${cann_version}_linux-${arch}.run # 安装命令 /Ascend-cann-toolkit_${cann_version}_linux-${arch}.run --install --install-path${install_path}${cann_version}表示CANN包版本号。${arch}表示CPU架构如aarch64、x86_64。${install_path}表示指定安装路径需要与Toolkit包安装在相同路径root用户默认安装在/usr/local/Ascend目录。安装CANN ops算子包可选仅运行样例依赖。# 确保安装包具有可执行权限 chmod x Ascend-cann-${soc_name}-ops_${cann_version}_linux-${arch}.run # 安装命令 ./Ascend-cann-${soc_name}-ops_${cann_version}_linux-${arch}.run --install --install-path${install_path}其中${soc_name}表示NPU型号名称。场景2体验已发布版本能力或基于已发布版本进行开发如果您想体验官网正式发布的CANN包能力请访问CANN官网下载中心选择对应版本CANN软件包仅支持CANN 8.5.0及后续版本进行安装。【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 CANN/GE快速安装指南
环境部署【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge1. 环境准备本项目支持源码编译在源码编译前需要确保已经安装CANN软件Toolkit开发套件包和ops包可选若运行样例还需要安装NPU驱动和固件。软件安装方式请根据如下描述进行选择安装方式说明使用场景使用WebIDE安装WebIDE可提供在线直接运行的昇腾环境当前可提供单机算力默认安装最新商发版CANN软件包目前是CANN 8.5.0和固件/驱动包。适用于没有昇腾设备的开发者。DockerDocker镜像是一种高效部署方式一键部署CANN包和必备依赖。当前OS仅支持Ubuntu操作系统。适用有昇腾设备需要快速搭建环境的开发者。手动安装软件包-适用有昇腾设备想体验手动安装CANN包或体验最新master分支能力的开发者。方式一使用WebIDE安装对于无环境的用户可直接使用WebIDE开发平台即“算子一站式开发平台”该平台为您提供在线可直接运行的昇腾环境环境中已安装必备的软件包无需手动安装。更多关于开发平台的介绍请参考LINK。进入开源项目单击“云开发”按钮使用已认证过的华为云账号登录。若未注册或认证请根据页面提示进行注册和认证。根据页面提示创建并启动云开发环境单击“连接 WebIDE”进入算子一站式开发平台开源项目的资源默认在/mnt/workspace目录下。方式二Docker部署对于不依赖昇腾设备的开发者若您想快速搭建编译构建环境可使用Docker镜像部署。说明 镜像文件比较大下载需要一定时间请您耐心等待。关于docker命令的选项介绍可通过docker --help查询。1.安装驱动与固件运行态依赖宿主机上昇腾驱动与固件的下载和安装操作请参考《CANN软件安装指南》中“准备软件包”和“安装NPU驱动和固件”章节。驱动与固件是运行态依赖若仅编译算子可以不安装。2.下载镜像步骤1以root用户登录宿主机。确保宿主机已安装Docker引擎版本1.11.2及以上。步骤2从昇腾镜像仓库拉取已预集成CANN软件包及开发所需依赖的镜像。命令如下请根据实际架构选择以Atlas A2系列产品为例仅编译场景无需关注# 示例拉取ARM架构的CANN开发镜像 docker pull --platformarm64 swr.cn-south-1.myhuaweicloud.com/ascendhub/cann:9.0.0-beta.1-910-ubuntu22.04-py3.11 # 示例拉取X86架构的CANN开发镜像 docker pull --platformamd64 swr.cn-south-1.myhuaweicloud.com/ascendhub/cann:9.0.0-beta.1-910-ubuntu22.04-py3.113.运行Docker根据使用场景选择不同的启动方式场景1仅编译构建不需要运行样例如果只需要进行代码编译构建无需访问NPU设备使用以下简化命令docker run --name cann_container -it -u root --privilegedtrue -v /home/ge/:/home/ge swr.cn-south-1.myhuaweicloud.com/ascendhub/cann:9.0.0-beta.1-910-ubuntu22.04-py3.11 bash场景2需要运行样例需要访问NPU设备如果需要运行样例或测试容器需要访问宿主机的NPU设备。以Atlas A2系列产品为例docker run --name cann_container \ --device /dev/davinci0 \ --device /dev/davinci_manager \ --device /dev/devmm_svm \ --device /dev/hisi_hdc \ -v /usr/local/dcmi:/usr/local/dcmi \ -v /usr/local/bin/npu-smi:/usr/local/bin/npu-smi \ -v /usr/local/Ascend/driver/lib64/:/usr/local/Ascend/driver/lib64/ \ -v /usr/local/Ascend/driver/version.info:/usr/local/Ascend/driver/version.info \ -v /etc/ascend_install.info:/etc/ascend_install.info \ -it -u root --privilegedtrue \ swr.cn-south-1.myhuaweicloud.com/ascendhub/cann:9.0.0-beta.1-910-ubuntu22.04-py3.11 bash参数说明注意事项--name cann_container为容器指定名称便于管理。可选取值可自定义。--device /dev/davinci0将NPU设备文件映射到容器内。必选运行样例时。多个设备可多次使用此参数如/dev/davinci0/dev/davinci1。--device /dev/davinci_manager昇腾设备管理器负责设备资源管理。必选运行样例时。--device /dev/devmm_svm设备内存管理单元。必选运行样例时。--device /dev/hisi_hdc昇腾高清编解码设备。必选运行样例时。-v /usr/local/dcmi:/usr/local/dcmi挂载DCMIDevice Communication Management Interface目录。必选运行样例时。-v /usr/local/bin/npu-smi:...挂载NPU监控工具用于查看NPU状态。必选运行样例时。-v /usr/local/Ascend/driver/...挂载NPU驱动库和版本信息。必选运行样例时。-v /etc/ascend_install.info:...挂载昇腾软件安装信息。必选运行样例时。-it-i交互式和-t分配伪终端的组合参数。必选-u root以 root管理员身份进入容器。建议--privilegedtrue开启容器最高特权模式。建议swr.cn-south-1.myhuaweicloud.com/ascendhub/cann:...指定要运行的Docker镜像。必选请确保此镜像名和标签tag与你通过docker pull拉取的镜像完全一致。bash容器启动后立即执行的命令。必选说明场景1适用于仅编译构建GE的场合无需NPU设备支持场景2适用于需要运行样例或进行NPU相关测试的场合需要宿主机已安装NPU驱动和固件如果使用其他型号芯片如950、Atlas A3系列产品请相应调整--device参数中的设备名称4.初始化环境进入容器后执行以下命令初始化环境场景1仅编译构建curl -fsSL https://raw.gitcode.com/cann/ge/raw/master/scripts/init_env.sh | bash场景2需要运行样例以Atlas A2系列产品为例curl -fsSL https://raw.gitcode.com/cann/ge/raw/master/scripts/init_env.sh | bash -s -- --chip-type 910b说明对于其他芯片型号请将--chip-type参数替换为对应的型号如950、A3方式三手动安装软件包安装驱动与固件可选仅运行样例依赖驱动与固件的下载和安装操作请参考《CANN软件安装指南》中“准备软件包”和“安装NPU驱动和固件”章节。驱动与固件是运行样例依赖若仅编译环境可以不安装。安装CANN包场景1体验master版本能力或基于master版本进行开发请单击下载链接获取最新时间版本并根据产品型号和环境架构下载对应包。安装命令如下更多指导请参考CANN软件安装指南。安装CANN Toolkit开发套件包。# 确保安装包具有可执行权限 chmod x Ascend-cann-toolkit_${cann_version}_linux-${arch}.run # 安装命令 /Ascend-cann-toolkit_${cann_version}_linux-${arch}.run --install --install-path${install_path}${cann_version}表示CANN包版本号。${arch}表示CPU架构如aarch64、x86_64。${install_path}表示指定安装路径需要与Toolkit包安装在相同路径root用户默认安装在/usr/local/Ascend目录。安装CANN ops算子包可选仅运行样例依赖。# 确保安装包具有可执行权限 chmod x Ascend-cann-${soc_name}-ops_${cann_version}_linux-${arch}.run # 安装命令 ./Ascend-cann-${soc_name}-ops_${cann_version}_linux-${arch}.run --install --install-path${install_path}其中${soc_name}表示NPU型号名称。场景2体验已发布版本能力或基于已发布版本进行开发如果您想体验官网正式发布的CANN包能力请访问CANN官网下载中心选择对应版本CANN软件包仅支持CANN 8.5.0及后续版本进行安装。【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考