kuma202204141718055/AISynergy-Platform/AISyn-RestServer

• 后台服务 （Backend Server for AISynergy）
• • 设计日志
  • • 需要在GPU和NPU的环境下联合训练
    • 采用模块方式，将AI相关的数据写入放入AIModuleService中
    • 支持用户创建任务组的时候邀请机构
• GRPC Proto File Build

后台服务 （Backend Server for AISynergy）

本程序为众智AI协同计算平台（AISynergy）后台服务程序，总体架构参加相关文档。

设计日志

需要在GPU和NPU的环境下联合训练

由于之前的设计只考虑使用GPU，且必须有GPU的情况下才能完成训练。经过最近的讨论，客户需要在GPU、NPU甚至仅CPU的环境中进行训练，为此，需要对软件进行设计变更。

具体思路如下：

• 算力增加支持算力支持的类型，GPU服务器为CPU + GPU，NPU服务器为CPU + NPU
• 算法增加对算力类型的选择，之前算法需要指定client、agent的镜像名称，现在需要支持不同算力的镜像（不同硬件环境生产的镜像不同）
• 代理检车机器需要只是GPU、NPU的监测，以便在调度任务时考虑是否可调度
• 任务调度与执行需要增加对算力、算法的匹配，优先级如下，如果算力有GPU卡，且任务算法支持GPU，则运行GPU的镜像，否则尝试NPU，最后尝试CPU。如果算法本身不支持GPU，则直接跳过。

采用模块方式，将AI相关的数据写入放入AIModuleService中

由于AI模块在训练过程中，不能停止，容易导致更新问题，为此，采用此种方式，隔离两边的服务，避免更新后台服务导致数据更新服务停止。

支持用户创建任务组的时候邀请机构

在用户创建任务组的时候，可选择参与训练的组织，此时将自动为组织的最先创建的用户创建一个为准备的任务，用于在训练视角可以看到并支持启动该机构的任务。

GRPC Proto File Build

Please see pccbProxyGrpcServer project:
eg:

~/Downloads/protoc-3.12.3-osx-x86_64/bin/protoc -I src/main/proto --java_out=src/main/java/ src/main/proto/commandInfo.proto --grpc_out src/main/java/ --plugin=protoc-gen-grpc=/Users/yinhaibo/Downloads/protoc-gen-grpc-java-1.30.2-osx-x86_64.exe