关于GCU、沐曦GPGPU、MLU、0卡V100资源4月7日恢复上架的公告>>> 关于共建具身智能开源数据集的倡议>>> 关于云脑任务中统一路径访问方式的公告>>> 关于将启智集群GPU资源迁移至智算集群的公告>>>

History

zhangy03 3553237a72 更新 'AISynergy-Platform/AISyn-RestServer/ReadMe.md'		2 years ago
..
AIModuleService	first commit	2 years ago

BackendManageService	first commit	2 years ago

common	first commit	2 years ago

gradle/wrapper	first commit	2 years ago

pythonScript	first commit	2 years ago

ReadMe.md	更新 'AISynergy-Platform/AISyn-RestServer/ReadMe.md'	2 years ago

build.gradle	first commit	2 years ago

gradlew	first commit	2 years ago

gradlew.bat	first commit	2 years ago

pccb.20206.24.sql	first commit	2 years ago

pccb.20200701.sql	first commit	2 years ago

pccb.sql	first commit	2 years ago

settings.gradle	first commit	2 years ago

后台服务（Backend Server for AISynergy）

本程序为众智AI协同计算平台（AISynergy）后台服务程序，总体架构参加相关文档。

设计日志

需要在GPU和NPU的环境下联合训练

由于之前的设计只考虑使用GPU，且必须有GPU的情况下才能完成训练。经过最近的讨论，客户需要在GPU、NPU甚至仅CPU的环境中进行训练，为此，需要对软件进行设计变更。

具体思路如下：

算力增加支持算力支持的类型，GPU服务器为CPU + GPU，NPU服务器为CPU + NPU
算法增加对算力类型的选择，之前算法需要指定client、agent的镜像名称，现在需要支持不同算力的镜像（不同硬件环境生产的镜像不同）
代理检车机器需要只是GPU、NPU的监测，以便在调度任务时考虑是否可调度
任务调度与执行需要增加对算力、算法的匹配，优先级如下，如果算力有GPU卡，且任务算法支持GPU，则运行GPU的镜像，否则尝试NPU，最后尝试CPU。如果算法本身不支持GPU，则直接跳过。

采用模块方式，将AI相关的数据写入放入AIModuleService中

由于AI模块在训练过程中，不能停止，容易导致更新问题，为此，采用此种方式，隔离两边的服务，避免更新后台服务导致数据更新服务停止。

支持用户创建任务组的时候邀请机构

在用户创建任务组的时候，可选择参与训练的组织，此时将自动为组织的最先创建的用户创建一个为准备的任务，用于在训练视角可以看到并支持启动该机构的任务。

GRPC Proto File Build

Please see pccbProxyGrpcServer project:
eg:

~/Downloads/protoc-3.12.3-osx-x86_64/bin/protoc -I src/main/proto --java_out=src/main/java/ src/main/proto/commandInfo.proto --grpc_out src/main/java/ --plugin=protoc-gen-grpc=/Users/yinhaibo/Downloads/protoc-gen-grpc-java-1.30.2-osx-x86_64.exe