当前位置:首页 » 《随便一记》 » 正文

【人工智能】Mindspore框架中保存加载模型

26 人参与  2022年12月10日 10:09  分类 : 《随便一记》  评论

点击全文阅读


前言

MindSpore着重提升易用性并降低AI开发者的开发门槛,MindSpore原生适应每个场景包括端、边缘和云,并能够在按需协同的基础上,通过实现AI算法即代码,使开发态变得更加友好,显著减少模型开发时间,降低模型开发门槛。通过MindSpore自身的技术创新及MindSpore与华为昇腾AI处理器的协同优化,实现了运行态的高效,大大提高了计算性能;MindSpore也支持GPU、CPU等其它处理器。

 一、准备工作

我们需要在使用前进行模块调用的操作,这也是前期必须要操作的一个步骤。代码如下:

import numpy as npimport mindsporefrom mindspore import nnfrom mindspore import Tensordef network():    model = nn.SequentialCell(                nn.Flatten(),                nn.Dense(28*28, 512),                nn.ReLU(),                nn.Dense(512, 512),                nn.ReLU(),                nn.Dense(512, 10))    return model

二、权重介绍

保存模型使用save_checkpoint接口,传入网络和指定的保存路径:

model = network()mindspore.save_checkpoint(model, "model.ckpt")

加载模型权重,需要先创建相同模型的实例,然后使用load_checkpointload_param_into_net方法加载参数。

model = network()param_dict = mindspore.load_checkpoint("model.ckpt")param_not_load = mindspore.load_param_into_net(model, param_dict)print(param_not_load)

 如果我们运行之后出现下图说明,加载成功

 三、MindIR

MindSpore端边云统一格式 —— MindIR

 MindSpore通过统一IR定义了网络的逻辑结构和算子的属性,将MindIR格式的模型文件
与硬件平台解耦,实现一次训练多次部署。
MindIR作为MindSpore的统一模型文件,同时存储了网络结构和权重参数值。同时支持
部署到云端Serving和端侧Lite平台执行推理任务。
同一个MindIR文件支持多种硬件形态的部署:
- Serving部署推理
- 端侧Lite推理部署

 MindSpore提供了云侧(训练)和端侧(推理)统一的中间表示(Intermediate Representation,IR)可使用export接口直接将模型保存为MindIR。

model = network()inputs = Tensor(np.ones([1, 1, 28, 28]).astype(np.float32))mindspore.export(model, inputs, file_name="model", file_format="MINDIR")

MindIR模型可以方便地通过load接口加载,传入nn.GraphCell即可进行推理。

mindspore.set_context(mode=mindspore.GRAPH_MODE)graph = mindspore.load("model.mindir")model = nn.GraphCell(graph)outputs = model(inputs)print(outputs.shape)

四、Ascend 310 AI处理器上使用MindIR模型

 Ascend 310是面向边缘场景的高能效高集成度AI处理器。Atlas 200开发者套件又称Atlas 200 Developer Kit(以下简称Atlas 200 DK),是以Atlas 200 AI加速模块为核心的开发者板形态的终端类产品,集成了海思Ascend 310 AI处理器,可以实现图像、视频等多种数据分析与推理计算,可广泛用于智能监控、机器人、无人机、视频服务器等场景。

环境初始化,指定硬件为Ascend 310,DeviceID为0:ms::GlobalContext::SetGlobalDeviceTarget(ms::kDeviceTypeAscend310);ms::GlobalContext::SetGlobalDeviceID(0);加载模型文件:// Load MindIR modelauto graph =ms::Serialization::LoadModel(resnet_file, ms::ModelType::kMindIR);// Build model with graph objectms::Model resnet50((ms::GraphCell(graph)));ms::Status ret = resnet50.Build({});获取模型所需输入信息:std::vector<ms::MSTensor> model_inputs = resnet50.GetInputs();加载图片文件:// Readfile is a function to read imagesms::MSTensor ReadFile(const std::string &file);auto image = ReadFile(image_file);图片预处理:// Create the CPU operator provided by MindData to get the function objectms::dataset::Execute preprocessor({ms::dataset::vision::Decode(),  // Decode the input to RGB format                                   ms::dataset::vision::Resize({256}),  // Resize the image to the given size                                   ms::dataset::vision::Normalize({0.485 * 255, 0.456 * 255, 0.406 * 255},                                                                  {0.229 * 255, 0.224 * 255, 0.225 * 255}),  // Normalize the input                                   ms::dataset::vision::CenterCrop({224, 224}),  // Crop the input image at the center                                   ms::dataset::vision::HWC2CHW(),  // shape (H, W, C) to shape(C, H, W)                                  });// Call the function object to get the processed imageret = preprocessor(image, &image);执行推理:// Create outputs vectorstd::vector<ms::MSTensor> outputs;// Create inputs vectorstd::vector<ms::MSTensor> inputs;inputs.emplace_back(model_inputs[0].Name(), model_inputs[0].DataType(), model_inputs[0].Shape(),                    image.Data().get(), image.DataSize());// Call the Predict function of Model for inferenceret = resnet50.Predict(inputs, &outputs);获取推理结果:// Output the maximum probability to the screenstd::cout << "Image: " << image_file << " infer result: " << GetMax(outputs[0]) << std::endl;


点击全文阅读


本文链接:http://m.zhangshiyu.com/post/49556.html

<< 上一篇 下一篇 >>

  • 评论(0)
  • 赞助本站

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。

关于我们 | 我要投稿 | 免责申明

Copyright © 2020-2022 ZhangShiYu.com Rights Reserved.豫ICP备2022013469号-1