启智社区中项目下的云脑页面可以申请一张 T4 GPU,没有服务器的个人或学生可以在启智社区上快速免费体验盘古α。本教程将手把手教你3分钟实现盘古α的推理流程。
这一步就不细说了,无非就是邮箱、账号、密码。 用申请的账号登录到启智社区。
如果你想申请启智社区的 GPU 就必须先有项目,然后在项目里面申请 T4。所以需要把 PanGu-Alpha-GPU
派生成为你个人的项目。
进入PanGu-Alpha-GPU 项目,点击右上角的派生
按钮,在原项目基础上派生出自己的项目。
云脑
点击新建任务
在镜像
那一栏里面搜索下图的镜像
数据集存放路径
那一栏选 'PanguAlpha_2.6B_fp16_mindspore.zip'选择内存大于等于 32g 的服务器规格
点击新建任务
等待一段时间就会出现 调试
按钮,点击进去就是熟悉的 jupyter 调试界面了
目录结构
/dataset/ 存放数据集的地方,刚刚提交任务的时候我们把模型放在该目录下
/code/ 存放代码的地方,你项目中的代码会拷贝到该目录下
/model/ 存放模型的地方,在任务提交界面可以通过模型下载
下载该目录下的文件
进入 /code/inference_mindspore_gpu 目录
运行推理脚本
python run_inference.py --model=2B6_fp16 --load_ckpt_path=/dataset/PanguAlpha_2.6B_fp16.ckpt
恭喜你,完成了推理流程
Dear OpenI User
Thank you for your continuous support to the Openl Qizhi Community AI Collaboration Platform. In order to protect your usage rights and ensure network security, we updated the Openl Qizhi Community AI Collaboration Platform Usage Agreement in January 2024. The updated agreement specifies that users are prohibited from using intranet penetration tools. After you click "Agree and continue", you can continue to use our services. Thank you for your cooperation and understanding.
For more agreement content, please refer to the《Openl Qizhi Community AI Collaboration Platform Usage Agreement》