• 目录
• CAIT描述
• 数据集
• 特性
• • 混合精度
• 环境要求
• 脚本说明
• • 脚本及样例代码
  • 脚本参数
• 训练和测试
• 模型描述
• • 性能
  • • 评估性能
    • • ImageNet-1k上的CAIT
• ModelZoo主页

目录

• 目录
• CAIT描述
• 数据集
• 特性
  • 混合精度
• 环境要求
• 脚本说明
  • 脚本及样例代码
  • 脚本参数
• 训练和测试
  • 导出过程
    • 导出
  • 推理过程
    • 推理
• 模型描述
  • 性能
    • 评估性能
      • ImageNet-1k上的CAIT
    • 推理性能
      • ImageNet-1k上的CAIT
• ModelZoo主页

CAIT描述

数据集

使用的数据集：ImageNet2012

• 数据集大小：共1000个类、224*224彩色图像
  • 训练集：共1,281,167张图像
  • 测试集：共50,000张图像
• 数据格式：JPEG
  • 注：数据在dataset.py中处理。
• 下载数据集，目录结构如下：

└─dataset
   ├─train                 # 训练数据集
   └─val                   # 评估数据集

特性

Transformer最近已进行了大规模图像分类，获得了很高的分数，这动摇了卷积神经网络的长期霸主地位。但是，到目前为止，对图像Transformer的优化还很少进行研究。在这项工作中，作者为图像分类建立和优化了更深的Transformer网络。 特别是，作者研究了这种专用Transformer的架构和优化之间的相互作用。
作者进行了两次Transformer体系结构更改，从而显著提高了深度Transformer的精度。

混合精度

采用混合精度
的训练方法，使用支持单精度和半精度数据来提高深度学习神经网络的训练速度，同时保持单精度训练所能达到的网络精度。混合精度训练提高计算速度、减少内存使用的同时，支持在特定硬件上训练更大的模型或实现更大批次的训练。

环境要求

• 硬件（Ascend）
  • 使用Ascend来搭建硬件环境。
• 框架
  • MindSpore
• 如需查看详情，请参见如下资源：
  • MindSpore教程
  • MindSpore Python API

脚本说明

脚本及样例代码

├── CAIT
  ├── README_CN.md                        // CAIT相关说明
  ├── scripts
      ├──run_standalone_train_gpu.sh      // 单卡GPU训练脚本
      ├──run_distribute_train_gpu.sh      // 多卡GPU训练脚本
      ├──run_eval_gpu.sh                  // 测试脚本
  ├── src
      ├──configs                          // CAIT的配置文件
      ├──data                             // 数据集配置文件
          ├──imagenet.py                  // imagenet配置文件
          ├──augment                      // 数据增强函数文件
          ┕──data_utils                   // modelarts运行时数据集复制函数文件
  │   ├──models                           // 模型定义文件夹
          ┕──cait                         // CAIT定义文件
  │   ├──trainers                         // 自定义TrainOneStep文件
  │   ├──tools                            // 工具文件夹
          ├──callback.py                  // 自定义回调函数，训练结束测试
          ├──cell.py                      // 一些关于cell的通用工具函数
          ├──criterion.py                 // 关于损失函数的工具函数
          ├──get_misc.py                  // 一些其他的工具函数
          ├──optimizer.py                 // 关于优化器和参数的函数
          ┕──schedulers.py                // 学习率衰减的工具函数
  ├── train.py                            // 训练文件
  ├── eval.py                             // 评估文件
  ├── export.py                           // 导出模型文件
  ├── postprocess.py                      // 推理计算精度文件
  ├── preprocess.py                       // 推理预处理图片文件

脚本参数

在config.py中可以同时配置训练参数和评估参数。

• 配置CAIT和ImageNet-1k数据集。

    # Architecture
    arch: cait_S24_224                  # CAIT结构选择
    # ===== Dataset ===== #
    data_url: ./data/imagenet           # 数据集地址
    set: ImageNet                       # 数据集名字
    num_classes: 1000                   # 数据集分类数目
    mix_up: 0.8                         # MixUp数据增强参数
    cutmix: 1.0                         # CutMix数据增强参数
    auto_augment: rand-m9-mstd0.5-inc1  # AutoAugment参数
    interpolation: bicubic              # 图像缩放插值方法
    re_prob: 0.25                       # 数据增强参数
    re_mode: pixel                      # 数据增强参数
    re_count: 1                         # 数据增强参数
    mixup_prob: 1.                      # 数据增强参数
    switch_prob: 0.5                    # 数据增强参数
    mixup_mode: batch                   # 数据增强参数
    # ===== Learning Rate Policy ======== #
    optimizer: adamw                    # 优化器类别
    base_lr: 0.0005                     # 基础学习率
    warmup_lr: 0.00000007               # 学习率热身初始学习率
    min_lr: 0.000006                    # 最小学习率
    lr_scheduler: cosine_lr             # 学习率衰减策略
    warmup_length: 5                    # 学习率热身轮数
    nonlinearity: GELU                  # 激活函数类别
    # ===== Network training config ===== #
    amp_level: O2                       # 混合精度策略
    keep_bn_fp32: True                  # 保持bn是fp32
    beta: [ 0.9, 0.999 ]                # adamw参数
    clip_global_norm_value: 5.          # 全局梯度范数裁剪阈值
    is_dynamic_loss_scale: True         # 是否使用动态缩放
    epochs: 400                         # 训练轮数
    label_smoothing: 0.1                # 标签平滑参数
    loss_scale: 1024                    # 损失缩放
    weight_decay: 0.05                  # 权重衰减参数
    momentum: 0.9                       # 优化器动量
    batch_size: 64                      # 批次
    # ===== Hardware setup ===== #
    num_parallel_workers: 16            # 数据预处理线程数
    device_target: GPU                  # GPU或者Ascend
    # ===== Model config ===== #
    drop_path_rate: 0.05                # drop_path概率
    image_size: 224                     # 图像大小
  

更多配置细节请参考脚本config.py。 通过官方网站安装MindSpore后，您可以按照如下步骤进行训练和评估：

训练和测试

• GPU

  # 使用python启动单卡训练
  python train.py --device_id 0 --device_target GPU --cait_config ./src/configs/cait_S24_224.yaml > train.log 2>&1 &
  
  # 使用脚本启动单卡训练
  bash ./scripts/run_standalone_train_gpu.sh [DEVICE_ID] [CONFIG_PATH]
  
  # 使用脚本启动多卡训练
  bash ./scripts/run_distribute_train_gpu.sh [DEVICE_NUM] [CUDA_VISIBLE_DEVICES] [CONFIG_PATH]
  
  # 使用python启动单卡运行评估示例
  python eval.py --device_id 0 --device_target GPU --cait_config ./src/configs/cait_S24_224.yaml \
  --pretrained ./ckpt_0/cait_S24_224.ckpt > ./eval.log 2>&1 &
  
  # 使用脚本启动单卡运行评估示例
  bash ./scripts/run_eval_gpu.sh [DEVICE_ID] [CONFIG_PATH] [CHECKPOINT_PATH]
  

模型描述

性能

评估性能

ImageNet-1k上的CAIT

参数	GPU RTX3090
模型	CAIT
模型版本	cait_S24_224
资源	GPU
上传日期	2021-12-9
MindSpore版本	1.5.0
数据集	ImageNet-1k Train，共1,281,167张图像
训练参数	epoch=400, batch_size=64
优化器	AdamWeightDecay
损失函数	SoftTargetCrossEntropy
损失	1.0002
输出	概率
分类准确率	八卡：top1:77.132% top5:93.606%
速度	八卡：747 ms毫秒/步
训练耗时	230h

ModelZoo主页

请浏览官网主页