【AI应用开发全流程】使用AscendCL开发板完成模型推理

ai,ascendcl · 浏览次数 : 0

小编点评

本文分享了从华为云 ModelArts 学习并实现基于 AscendCL 开发板和 Atlas 200I DK A2 的模型推理全流程。文章首先介绍了如何安装配置华为云 ModelArts 和开发板,然后逐步引导读者完成从训练到推理的全过程。 1. 文章首先介绍了环境搭建的步骤,包括准备硬件基础、制作 Micro SD 卡、插入 USB 接口等。 2. 接着,指导读者如何使用制卡工具烧录镜像到 SD 卡上,并完成了硬件的初步配置。 3. 文章详细描述了如何连接启动开发者套件、确认开发者套件成功联网的方法,以及如何添加推理阶段项目工程文件。 4. 在推理阶段,文章提供了详细的脚本和注释,展示了如何执行模型推理,并对推理结果进行了后处理。 5. 最后,文章提到了如何卸载模型和释放资源,以保持系统的清洁。 整个过程中,作者强调了对华为云的各个组件的熟悉程度和操作技能的重要性,并提醒读者注意细节和规范。 注:本文提供的示例代码和指令可能需要根据具体的开发环境和需求进行调整。在执行任何推理之前,请确保已获得必要的授权并遵守相关的技术支持和服务条款。

正文

本文分享自华为云社区《【昇腾开发全流程】AscendCL开发板模型推理》,作者:沉迷sk。

前言

学会如何安装配置华为云ModelArts、开发板Atlas 200I DK A2。
并打通一个Ascend910训练到Ascend310推理的全流程思路。

在本篇章,我们继续进入推理阶段!

推理阶段

B. 环境搭建

AscendCL 开发板 模型推理

Step1 准备硬件

基础硬件

  • 开发者套件
  • Micro SD 卡(TF卡):容量推荐不小于64GB
  • 读卡器
  • PC(笔记本或台式机)

所需配件

用于后续连接启动&登录开发者套件。

这里以远程登录模式为例

  • RJ45网线

注:

这里使用Windows系统,通过网线以远程登录模式连接启动登录开发者套件。

详细内容or选择其他系统其他模式的用户可参考昇腾官网文档-快熟开始

Step2 制卡

PC下载并安装制卡工具“Ascend-devkit-imager_latest_win-x86_64.exe”

将SD卡插入读卡器的卡槽中,接着一起插入PC的USB接口中

打开制卡工具

-> 在线制卡(镜像版本选择Ubuntu)

-> 选择SD卡(烧录镜像时会自动将SD卡格式化,需要提前检查SD卡是否有数据需要提前备份)

-> 烧录镜像(大概20min)

烧录成功后,将SD卡从读卡器中取出。

Step3 连接启动开发者套件

将烧录好的SD卡插入开发者套件的SD插槽,并确保完全推入插槽底部。(推到底是有类似弹簧的触感)

确保开发者套件的拨码开关2、3、4的开关值如图所示:

使用网线连接开发板套件和PC。

给开发者套件上电后

Step4 登录开发者套件

通过PC共享网络联网(Windows):

控制面板 -> 网络和共享中心 -> 更改适配器设置 ->

右键“WLAN” -> 属性 ->

进入“共享”界面

右键“以太网” -> 属性 ->

进入“网络”界面 -> 双击“Internet 协议版本 4(TCP/IPv4)” -> 修改IP地址与子网掩码

(PC需设置IP与开发板处于同一网段。这里使用192.168.137.102为例)

确认保存。

PC下载并解压SSH远程登录工具“MobaXterm_Personal_22.2.exe”(或者进入官网下载

打开SSH远程登录工具“MobaXterm_Personal_22.2.exe” -> Session -> SSH

-> 填写实际与PC连接的开发者套件网口IP(制卡中配置的IP地址,默认为192.168.137.100)

-> 勾选“Specify username”选项,填写用户名(这里使用root)

-> Accept

-> 输入root用户名登录密码(默认为Mind@123)

输入密码时,界面不会显示密码和输入位数,输入密码后在键盘按Enter键即可

-> 界面会出现保存密码提示,可以单击“No”,不保存密码直接登录开发者套件。

Step5 确认开发者套件成功联网

通过能否ping通进行检验网络

输入ping 8.8.8.8或者ping www.baidu.com

若回显如图所示,则说明开发者套件还未成功联网。

请继续后续命令配置操作。

输入ip ro回显如下

删除多余的路由

输入ip ro del default via 192.168.137.1添加丢失的路由

输入sudo ip route add default via 192.168.137.102 dev eth1 metric 1

注:这里填写的IP是前文控制面板中填写的IP地址

输入ip ro回显如下

通过能否ping通进行检验网络

输入ping 8.8.8.8或者ping www.baidu.com

若回显如图所示,则说明开发者套件已经成功联网。

(若正确配置网络后仍无法联网,请参考昇腾官网文档-正确配置网络后仍无法联网

Step6 为开发者套件添加推理阶段项目工程文件

上传

将推理阶段项目工程文件压缩包上传到开发者套套件

(可以通过拖拽文件的方法上传到MobaXterm)

解压

打开“Terminal”命令行终端界面 ->

执行以下命令,解压项目工程文件压缩包

unzip unet_sdk.zip

unzip unet_cann.zip

模型转换工程目录结构如下:

├── unet_sdk
    ├── model
    │   ├──air2om.sh                     // air模型转om脚本
    │   ├──xxx.air                       //训练阶段导出的air模型
    │   ├──aipp_unet_simple_opencv.cfg   // aipp文件
    │   ├──xxx.om                        //训练转换产生的om模型

推理阶段工程目录结构如下:

├── unet_cann
    ├── main.py                       // 推理文件     
    ├── image.png                     //图片数据
    ├── mask.png                     //标签数据

注:

接下来就可以继续旅程,进入推理阶段。

若中途暂停或完成实验,记得将开发者套件关机和下电
若之后返回或继续实验,再次将开发者套件开机。

如果开发板下电断开连接,重新上电后PC不会主动再次连接,
需要更新状态(例如取消网络共享+再次共享)

七. 执行推理

Step1 acl推理脚本

打开unet_cann/main.py文件

内容如下,可根据实际开发情况进行修改。

#!/usr/bin/python
# -*- coding: utf-8 -*-

import cv2  # 图片处理三方库,用于对图片进行前后处理
import numpy as np  # 用于对多维数组进行计算
from albumentations.augmentations import transforms  # 数据增强库,用于对图片进行变换

import acl  # acl 推理文件库
def sigmoid(x):
    y = 1.0 / (1 + np.exp(-x))  # 对矩阵的每个元素执行 1/(1+e^(-x))
    return y
def plot_mask(img, msk):
    """ 将推理得到的 mask 覆盖到原图上 """
    msk = msk + 0.5  # 将像素值范围变换到 0.5~1.5, 有利于下面转为二值图
    msk = cv2.resize(msk, (img.shape[1], img.shape[0]))  # 将 mask 缩放到原图大小
    msk = np.array(msk, np.uint8)  # 转为二值图, 只包含 01

    # 从 mask 中找到轮廓线, 其中第二个参数为轮廓检测的模式, 第三个参数为轮廓的近似方法
    # cv2.RETR_EXTERNAL 表示只检测外轮廓,  cv2.CHAIN_APPROX_SIMPLE 表示压缩水平方向、
    # 垂直方向、对角线方向的元素, 只保留该方向的终点坐标, 例如一个矩形轮廓只需要4个点来保存轮廓信息
    # contours 为返回的轮廓(list)
    contours, _ = cv2.findContours(msk, cv2.RETR_EXTERNAL, cv2.CHAIN_APPROX_SIMPLE)

    # 在原图上画出轮廓, 其中 img 为原图, contours 为检测到的轮廓列表
    # 第三个参数表示绘制 contours 中的哪条轮廓, -1 表示绘制所有轮廓
    # 第四个参数表示颜色, (0, 0, 255)表示红色, 第五个参数表示轮廓线的宽度
    cv2.drawContours(img, contours, -1, (0, 0, 255), 1) 

    # 将轮廓线以内(即分割区域)覆盖上一层红色
    img[..., 2] = np.where(msk == 1, 255, img[..., 2])

    return img
# 初始化变量
pic_input = 'image.png'  # 单张图片
model_path = "../unet_sdk/model/unet_hw960_bs1.om"  # 模型路径
num_class = 2   # 类别数量, 需要根据模型结构、任务类别进行改变; 
device_id = 0   # 指定运算的Device
print("init resource stage:")
# acl初始化
ret = acl.init()
ret = acl.rt.set_device(device_id)     # 指定运算的Device
context, ret = acl.rt.create_context(device_id)      # 显式创建一个Context,用于管理Stream对象 
stream, ret = acl.rt.create_stream()     # 显式创建一个Stream, 用于维护一些异步操作的执行顺序,确保按照应用程序中的代码调用顺序执行任务
print("Init resource success")
# 加载模型
model_id, ret = acl.mdl.load_from_file(model_path)      # 加载离线模型文件, 返回标识模型的ID
model_desc = acl.mdl.create_desc()     # 初始化模型描述信息, 包括模型输入个数、输入维度、输出个数、输出维度等信息
ret = acl.mdl.get_desc(model_desc, model_id)      # 根据加载成功的模型的ID, 获取该模型的描述信息
print("Init model resource success")
img_bgr = cv2.imread(pic_input)  # 读入图片
img = cv2.resize(img_bgr, (960,960))        # 将原图缩放到 960*960 大小
img = transforms.Normalize().apply(img)      # 将像素值标准化(减去均值除以方差)
img = img.astype('float32') / 255  # 将像素值缩放到 0~1 范围内
img = img.transpose(2, 0, 1)  # 将形状转换为 channel first (3, 96, 96)
# 准备输入数据集
input_list = [img, ]  # 初始化输入数据列表
input_num = acl.mdl.get_num_inputs(model_desc)  # 得到模型输入个数
input_dataset = acl.mdl.create_dataset()    # 创建输入数据
for i in range(input_num):
    input_data = input_list[i]  # 得到每个输入数据

    # 得到每个输入数据流的指针(input_ptr)和所占字节数(size)
    size = input_data.size * input_data.itemsize  # 得到所占字节数
    bytes_data=input_data.tobytes()  # 将每个输入数据转换为字节流
    input_ptr=acl.util.bytes_to_ptr(bytes_data)  # 得到输入数据指针

    model_size = acl.mdl.get_input_size_by_index(model_desc, i)  # 从模型信息中得到输入所占字节数
    # if size != model_size:  # 判断所分配的内存是否和模型的输入大小相符
    #     print(" Input[%d] size: %d not equal om size: %d" % (i, size, model_size) + ", may cause inference result error, please check model input")

    dataset_buffer = acl.create_data_buffer(input_ptr, size)  # 为每个输入创建 buffer
    _, ret = acl.mdl.add_dataset_buffer(input_dataset, dataset_buffer)  # 将每个 buffer 添加到输入数据中
print("Create model input dataset success")
# 准备输出数据集
output_size = acl.mdl.get_num_outputs(model_desc)  # 得到模型输出个数
output_dataset = acl.mdl.create_dataset()  # 创建输出数据
for i in range(output_size):
    size = acl.mdl.get_output_size_by_index(model_desc, i)  # 得到每个输出所占内存大小
    buf, ret = acl.rt.malloc(size, 2)  # 为输出分配内存。
    dataset_buffer = acl.create_data_buffer(buf, size)  # 为每个输出创建 buffer
    _, ret = acl.mdl.add_dataset_buffer(output_dataset, dataset_buffer)  # 将每个 buffer 添加到输出数据中
    if ret:  # 若分配出现错误, 则释放内存
        acl.rt.free(buf)
        acl.destroy_data_buffer(dataset_buffer)
print("Create model output dataset success")
# 模型推理, 得到的输出将写入 output_dataset 中
ret = acl.mdl.execute(model_id, input_dataset, output_dataset)
# 解析 output_dataset, 得到模型输出列表
model_output = [] # 模型输出列表
for i in range(output_size):
    buf = acl.mdl.get_dataset_buffer(output_dataset, i)  # 获取每个输出buffer
    data_addr = acl.get_data_buffer_addr(buf)  # 获取输出buffer的地址
    size = int(acl.get_data_buffer_size(buf))  # 获取输出buffer的字节数
    byte_data = acl.util.ptr_to_bytes(data_addr, size)  # 将指针转为字节流数据
    dims = tuple(acl.mdl.get_output_dims(model_desc, i)[0]["dims"])  # 从模型信息中得到每个输出的维度信息
    output_data = np.frombuffer(byte_data, dtype=np.float32).reshape(dims)  # 将 output_data 以流的形式读入转化成 ndarray 对象
    model_output.append(output_data) # 添加到模型输出列表
x0 = 2200  # w:2200~4000; h:1000~2800
y0 = 1000
x1 = 4000
y1 = 2800
ori_w = x1 - x0
ori_h = y1 - y0
def _process_mask(mask_path):
    # 手动裁剪
    mask = cv2.imread( mask_path , cv2.IMREAD_GRAYSCALE )
    # [y0:y1, x0:x1]
    return mask[y0:y1, x0:x1]
# 后处理
model_out_msk = model_output[0]  # 取出模型推理结果, 推理结果形状为 (1, 1, 96, 96),即(batchsize, num_class, height, width)
model_out_msk =  _process_mask("mask.png")  # 抠图后的shape, hw
# model_out_msk = sigmoid(model_out_msk[0][0])  # 将模型输出变换到 0~1 范围内
img_to_save = plot_mask(img_bgr, model_out_msk)  # 将处理后的输出画在原图上, 并返回
# 保存图片到文件
cv2.imwrite('result.png', img_to_save)
# 释放输出资源, 包括数据结构和内存
num = acl.mdl.get_dataset_num_buffers(output_dataset)  # 获取输出个数
for i in range(num):
    data_buf = acl.mdl.get_dataset_buffer(output_dataset, i)   # 获取每个输出buffer
    if data_buf:
        data_addr = acl.get_data_buffer_addr(data_buf)     # 获取buffer的地址
        acl.rt.free(data_addr)  # 手动释放 acl.rt.malloc 所分配的内存
        ret = acl.destroy_data_buffer(data_buf)  # 销毁每个输出buffer (销毁 aclDataBuffer 类型)
ret = acl.mdl.destroy_dataset(output_dataset)  # 销毁输出数据 (销毁 aclmdlDataset类型的数据)
# 卸载模型
if model_id:
    ret = acl.mdl.unload(model_id)

# 释放模型描述信息
if model_desc:
    ret = acl.mdl.destroy_desc(model_desc)

# 释放 stream
if stream:
    ret = acl.rt.destroy_stream(stream)

# 释放 Context
if context:
    ret = acl.rt.destroy_context(context)

# 释放Device
acl.rt.reset_device(device_id)
acl.finalize()
print("Release acl resource success")

Step2 执行脚本

打开Terminal命令行终端界面:确保是否在工程目录unet_cann/路径下

输入cd /root/project/unet_cann

运行示例,输入python3 main.py

输出结果:

注:

到此我们就已经走过了从Ascend910训练到Ascend310推理的昇腾开发全流程。

更多内容深入参考下方学习资源推荐

学习资源推荐

昇腾官网

gitee代码仓Ascend / samples
https://gitee.com/ascend/samples/tree/master/inference

点击关注,第一时间了解华为云新鲜技术~

 

与【AI应用开发全流程】使用AscendCL开发板完成模型推理相似的内容:

【AI应用开发全流程】使用AscendCL开发板完成模型推理

从模型推理需要的开发板环境搭建到执行推理,本文主要是为大家介绍从Ascend910训练到Ascend310推理的昇腾开发全流程。

SK 简化流行编程语言对 生成式AI 应用开发的支持

Semantic Kernel[1] 是一个开源的将大型语言模型(LLM)与流行的编程语言相结合的SDK,Microsoft将Semantic Kernel(简称SK)称为轻量级SDK,结合了OpenAI,Azure OpenAI和Hugging Face等AI LLM的集成。它使开发人员能够通过编

带你从0到1开发AI图像分类应用

摘要:通过一个垃圾分类应用的开发示例,介绍AI Gallery在AI应用开发流程中的作用。 本文分享自华为云社区《AI Gallery:从0到1开发AI图像分类应用》,作者: yd_269359708 。 现如今,人工智能(AI)技术在计算机领域内,得到了越来越广泛的重视,并在各行各业中得到应用。然

Stack Overflow开发者调查发布:AI将如何协助DevOps

本文将重点介绍 Stack Overflow 发布的2023年度开发人员调查报告中的几项重要发现,即重要编程语言和工具偏好、人工智能在开发工作流程中的应用以及这些趋势对 DevOps 领域可能意味着什么。

PhiData 一款开发AI搜索、agents智能体和工作流应用的AI框架

PhiData以其强大的功能集成和灵活的部署选项,为AI产品开发提供了极大的便利和高效性。它为构建智能AI助手提供了一个全新的视角,让开发者能够探索AI的无限可能。如果你对构建AI产品感兴趣,不妨试试PhiData。

云图说 | Workflow:流水线工具,助您高效完成AI开发

摘要:Workflow是将ML Ops(机器学习和DevOps的组合实践)应用于ModelArts平台,可以让您更高效的完成AI开发。 本文分享自华为云社区《云图说 | 第263期 Workflow流水线工具,助您高效完成AI开发~》,作者:阅识风云。 Workflow(也称工作流)本质是开发者基于

昇腾CANN:为你开启机器人开发的Buff 加成

摘要:昇腾AI提供了全栈技术和产品,构筑人工智能的算力基座,赋能上层应用 本文分享自华为云社区《昇腾CANN:为你开启机器人开发的Buff 加成》,作者:华为云社区精选 。 昇腾AI基础软硬件平台 人类在最近1万多年的发展中,经历了农耕时代、蒸汽机时代、电力时代、互联网时代,21世纪,进入了人工智能

Go微服务开发指南

在这篇深入探讨Go语言在微服务架构中的应用的文章中,我们介绍了选择Go构建微服务的优势、详细分析了主要的Go微服务框架,并探讨了服务发现与注册和API网关的实现及应用。 关注TechLead,复旦博士,分享云服务领域全维度开发技术。拥有10+年互联网服务架构、AI产品研发经验、团队管理经验,复旦机器

全域Serverless+AI,华为云加速大模型应用开发

华为云FunctionGraph技术极大的优化了AI应用的开发过程,让AI团队可以更关注业务实现,而无需关注底层技术细节。

一文教你基于LangChain和ChatGLM3搭建本地知识库问答

借助ModelArts提供的AI开发能力,实现基于LangChain+ChatGLM3的本地知识库问答,通过具体案例让开发者更加清晰的了解大模型AI应用开发过程。