• 天数智芯GPGPU-推理任务使用指南
• • 一、数据集上传
  • 二、模型上传
  • • 2.1 导入本地模型
    • 2.2 导入线上模型
  • 三、推理任务参数配置
  • 四、日志及结果下载
  • • 4.1 日志查看
    • 4.2 结果下载
  • 五、使用总结

天数智芯GPGPU-推理任务使用指南

在OpenI启智社区上，调试任务是训练任务和推理任务的前置环节。调试任务有4小时的时长限制，具有jupyter lab界面，可以很方便的进行模型训练/推理的调试工作；训练/推理任务时长不限，基于调试好的代码和启动文件可一键启动模型训练/推理，适用于长时间的训练/推理一个模型。调试任务是推理任务的前置教程，开始本教程学习之前请先掌握调试任务的相关步骤，调试任务使用指南（含注册启智社区、获取积分等步骤）：https://openi.pcl.ac.cn/iluvatar/cloud202401241517143

**下面我将介绍如何在启智社区上使用智铠100推理卡来创建一个推理任务， **本次推理任务在MNIST数据集上进行。

一、数据集上传

将本地的数据集或平台上已有的数据集导入至本项目中，这里以平台上已有的数据集导入为例，按下图操作进行：

二、模型上传

2.1 导入本地模型

将本地训练好的模型或本项目训练任务产生的模型导入至本项目中，这里以本地训练好的模型为例，按下图操作进行：

2.2 导入线上模型

若需要使用平台已有模型，参照以下步骤进行：

由于目前天数并未开通训练任务渠道，因此暂时无法导入

三、推理任务参数配置

点击云脑模块，新建推理任务，按下图操作进行：

• 推理脚本存储在 /tmp/code 中，数据集存储在 /tmp/dataset 中，模型存储在 /tmp/pretrainmodel 中，推理输出请存储在 /tmp/output 中以供后续下载。

• 程序默认在 /tmp/code/mnist_mr100 下执行python3 inference.py --model mnist_epoch1_0.49.pkl

• 选择模型：上传的模型默认存放在/tmp/pretrainmodel下

• **选择数据集：**程序会自行解压在 /tmp/dataset下所有的数据集，因此推理脚本内不需要写数据集的解压命令

• **运行参数：**根据自己写的推理脚本，在运行参数一栏填写合适的参数

四、日志及结果下载

4.1 日志查看

查看推理部分的日志，发现测试集上的准确率为49%，推理脚本成功运行。

4.2 结果下载

本次图像分类的推理任务并没有将推理结果绘制在原图上，因此结果下载栏处不会有任何输出文件；如果自己编写的推理脚本需要保存最后的推理结果，可将脚本内的保存路径设置为**/tmp/output**，待推理结束后就可以来此处进行下载。

五、使用总结

以上就是启智社区智铠100推理任务的全部使用教程了，大家如果还有什么问题，也可以在项目任务栏中附上自己遇到问题的图文，

或者扫描下方微信二维码进入天数智芯交流群。

或者直接反馈至天数智芯官方邮箱：Support.TSC@iluvatar.com

此外，大家如果还想了解更多启智平台的玩法，可以访问OpenI新手指南：https://openi.pcl.ac.cn/zeizei/OpenI_Learning