天数智芯GPGPU-推理任务使用指南
在OpenI启智社区上,调试任务是训练任务和推理任务的前置环节。调试任务有4小时的时长限制,具有jupyter lab界面,可以很方便的进行模型训练/推理的调试工作;训练/推理任务时长不限,基于调试好的代码和启动文件可一键启动模型训练/推理,适用于长时间的训练/推理一个模型。调试任务是推理任务的前置教程,开始本教程学习之前请先掌握调试任务的相关步骤,调试任务使用指南(含注册启智社区、获取积分等步骤):https://openi.pcl.ac.cn/iluvatar/cloud202401241517143
**下面我将介绍如何在启智社区上使用智铠100推理卡来创建一个推理任务, **本次推理任务在MNIST数据集上进行。
一、数据集上传
将本地的数据集或平台上已有的数据集导入至本项目中,这里以平台上已有的数据集导入为例,按下图操作进行:
二、模型上传
2.1 导入本地模型
将本地训练好的模型或本项目训练任务产生的模型导入至本项目中,这里以本地训练好的模型为例,按下图操作进行:
2.2 导入线上模型
若需要使用平台已有模型,参照以下步骤进行:
由于目前天数并未开通训练任务渠道,因此暂时无法导入
三、推理任务参数配置
点击云脑模块,新建推理任务,按下图操作进行:
-
推理脚本存储在 /tmp/code 中,数据集存储在 /tmp/dataset 中,模型存储在 /tmp/pretrainmodel 中,推理输出请存储在 /tmp/output 中以供后续下载。
-
程序默认在 /tmp/code/mnist_mr100 下执行python3 inference.py --model mnist_epoch1_0.49.pkl
-
选择模型:上传的模型默认存放在/tmp/pretrainmodel下
-
**选择数据集:**程序会自行解压在 /tmp/dataset下所有的数据集,因此推理脚本内不需要写数据集的解压命令
-
**运行参数:**根据自己写的推理脚本,在运行参数一栏填写合适的参数
四、日志及结果下载
4.1 日志查看
查看推理部分的日志,发现测试集上的准确率为49%,推理脚本成功运行。
4.2 结果下载
本次图像分类的推理任务并没有将推理结果绘制在原图上,因此结果下载栏处不会有任何输出文件;如果自己编写的推理脚本需要保存最后的推理结果,可将脚本内的保存路径设置为**/tmp/output**,待推理结束后就可以来此处进行下载。
五、使用总结
以上就是启智社区智铠100推理任务的全部使用教程了,大家如果还有什么问题,也可以在项目任务栏
中附上自己遇到问题的图文,
或者扫描下方微信二维码进入天数智芯交流群。
或者直接反馈至天数智芯官方邮箱:Support.TSC@iluvatar.com
此外,大家如果还想了解更多启智平台的玩法,可以访问OpenI新手指南:https://openi.pcl.ac.cn/zeizei/OpenI_Learning