AI开发平台MODELARTS-基于MindSpore Lite的模型转换:模型准备

时间:2024-10-13 20:24:37

模型准备

MindSpore Lite提供的模型convertor工具可以支持主流的模型格式到MindIR的格式转换,用户需要导出对应的模型文件,推荐导出为ONNX格式。

  1. 如何导出ONNX模型
    • PyTorch转ONNX,操作指导请见此处
    • PyTorch导出ONNX模型样例如下:
      import torch
      import torchvision
      model = torchvision.models.resnet50(pretrained=True)
      # 保存模型为ONNX格式
      torch.onnx.export(model, torch.randn(1, 3, 224, 224), "resnet50.onnx")
    • TensorFlow导出ONNX模型,操作指导请见此处
  2. 如何导出PTH模型

    PyTorch模型导出时需要包含模型的结构信息,需要利用jit.trace方式完成模型的导出与保存。

    # If you are instantiating the model with *from_pretrained* you can also easily set the TorchScript flag
    model = BertModel.from_pretrained("bert-base-uncased", torchscript=True)
    
    # Creating the trace
    traced_model = torch.jit.trace(model, [tokens_tensor, segments_tensors])
    torch.jit.save(traced_model, "traced_bert.pt")
support.huaweicloud.com/bestpractice-modelarts/modelarts_10_1159.html