• MSAdapter
• • 简介
  • 安装
  • • 安装MindSpore
    • 安装MSAdapter
    • • 通过pip安装
      • 通过源码安装
  • 使用
  • • 1.数据处理(仅修改导入包)
    • 2.模型构建(仅修改导入包)
    • 3.模型训练(自定义训练)
  • 资源
  • 版本说明
  • 正在进行的工作
  • 贡献
  • 许可证

MSAdapter

简体中文 | English

简介

MSAdapter是MindSpore适配PyTorch接口的工具,其目的是在不改变原有PyTorch用户的使用习惯情况下,使得PyTorch代码能在昇腾上获得高效性能.

• PyTorch接口支持： MSAdapter的目的是支持PyTorch语法的原生态表达，用户只需要将PyTorch源代码中import torch替换为import msadapter.pytorch即可实现模型能支持昇腾上训练。模型中所使用的高阶APIs支持状态可以从这里找到 Supported List。
• PyTorch接口支持范围： MSAdapter目前主要适配PyTorch的数据处理和模型结构部分代码，目前完全支持MindSpore的PYNATIVE模式下训练，部分网络结构支持GRAPH模式训练。训练过程部分代码需要用户自定义编写具体使用可以参考使用指南。
• TorchVision接口支持： MSAdapter TorchVision是迁移自PyTorch官方实现的计算机视觉工具库，延用PyTorch官方api设计与使用习惯，内部计算调用MindSpore算子，实现与torchvision原始库同等功能。用户只需要将PyTorch源代码中import torchvision替换为import msadapter.torchvision即可。TorchVision支持状态可以从这里找到 TorchVision Supported List。

安装

首先查看版本说明选择所需的MSAdapter和MindSpore版本。

安装MindSpore

请根据MindSpore官网安装指南 ,安装2.0.0Nightly版本的MindSpore。

安装MSAdapter

通过pip安装

pip install msadapter

通过源码安装

 git clone https://git.openi.org.cn/OpenI/MSAdapter.git
 cd MSAdapter
 python setup.py install

如果出现权限不足的提示，请按照如下方式安装：

 python setup.py install --user || exit 1

使用

在数据处理和模型构建上,MSAdapter可以和PyTorch一样使用,模型训练部分代码需要自定义,示例如下：

1.数据处理(仅修改导入包)

from msadapter.pytorch.utils.data import DataLoader
from msadapter.torchvision import datasets, transforms

transform = transforms.Compose([transforms.Resize((224, 224), interpolation=InterpolationMode.BICUBIC),
                                transforms.ToTensor(),
                                transforms.Normalize(mean=[0.4914, 0.4822, 0.4465], std=[0.247, 0.2435, 0.2616])
                               ])
train_images = datasets.CIFAR10('./', train=True, download=True, transform=transform)
train_data = DataLoader(train_images, batch_size=128, shuffle=True, num_workers=2, drop_last=True)

2.模型构建(仅修改导入包)

from msadapter.pytorch.nn import Module, Linear, Flatten

class MLP(Module):
    def __init__(self):
        super(MLP, self).__init__()
        self.flatten = Flatten()
        self.line1 = Linear(in_features=1024, out_features=64)
        self.line2 = Linear(in_features=64, out_features=128, bias=False)
        self.line3 = Linear(in_features=128, out_features=10)

    def forward(self, inputs):
        x = self.flatten(inputs)
        x = self.line1(x)
        x = self.line2(x)
        x = self.line3(x)
        return x

3.模型训练(自定义训练)

import msadapter.pytorch as torch
import msadapter.pytorch.nn as nn
import mindspore as ms

net = MLP()
net.train()
epochs = 500
criterion = nn.CrossEntropyLoss()
optimizer = ms.nn.SGD(net.trainable_params(), learning_rate=0.01, momentum=0.9, weight_decay=0.0005)

# 定义训练过程
loss_net = ms.nn.WithLossCell(net, criterion)
train_net = ms.nn.TrainOneStepCell(loss_net, optimizer)

for i in range(epochs):
    for X, y in train_data:
        res = train_net(X, y)
        print("epoch:{}, loss:{:.6f}".format(i, res.asnumpy()))
# 模型保存
ms.save_checkpoint(net, "save_path.ckpt")

资源

• 模型库：MSAdapter支持丰富的深度学习应用，这里给出了从PyTorch官方代码迁移到MSAdapter模型。已验证模型资源

版本说明

分支名	发布版本	发布时间	配套MindSpore版本
r0.1beta	0.1beta	2023-03-27	MindSpore Nightly(0205)
master	-	-	MindSpore Nightly(0327)

• MSAdapter已发布版本获取请参阅RELEASE。
• MindSpore版本推荐从MindSpore官网获取，或者从启智平台数据资源中获取。

正在进行的工作

• 支持更多torch的接口。
• 支持torchaudio数据处理接口。
• 性能优化。

贡献

欢迎开发者参与贡献。更多详情，请参阅我们的贡献指南.

许可证

Apache License 2.0