You can not select more than 25 topics Topics must start with a chinese character,a letter or number, can include dashes ('-') and can be up to 35 characters long.
 
 
 
 
 
huolongshe 3792dbdbd0 Merge pull request '生成docker镜像时将名字中的"_"替换为“-”(因为k8s中image name不能包含下划线,向k8s部署时会出错)。' (#19) from hls016 into master 1 month ago
app 生成docker镜像时将名字中的"_"替换为“-”(因为k8s中image name不能包含下划线,向k8s部署时会出错)。 1 month ago
.gitignore init commit 9 months ago
Dockerfile 新增从git代码仓库发布模型功能。 2 months ago
LICENSE init commit 9 months ago
README.md 新增从git代码仓库发布模型功能。 2 months ago
application.yml 新增从git代码仓库发布模型功能。 2 months ago
build-docker.sh init commit 9 months ago
pip-install-reqs.sh init commit 9 months ago
requirements.txt 消息机制从纯websocket改为websocket+kafka:微服务内部采用kafka,gateway与浏览器之间、ability与模型实例之间采用websocket,解决了gateway和ability多实例部署时可能存在的消息漏发或重发的问题。 1 month ago
start.py init commit 9 months ago

README.md

CubeAI智立方——AI模型发布(umu)

CubeAI智立方简介

CubeAI智立方是集AI模型自动化服务封装、发布、共享、部署和能力开放等功能于一体的开源AI算能服务平台,其核心作用在于打通AI模型开发至实际生产应用之间的壁垒,加速AI创新和应用进程,促进AI应用从设计、开发直到部署、运营整个生命周期的自动化快速迭代和演进。

AI模型发布(umu)是CubeAI智立方中负责AI模型发布的微服务。在模型发布过程中,会自动对模型推理程序进行容器化封装。

umu基于CubePy微服务框架ServiceBoot微服务引擎开发。

基本配置

  • 监听端口

    • 开发环境: 8205(可任意)
    • 生产环境: 80
  • 服务注册与发现, 中心配置: Consul(8500)

  • 用户认证授权: uaa

  • 数据库: 无

运行/调试/二次开发

  1. 开发环境中运行本微服务之前,需要先拉起项目依赖的后台docker。

     # cd ~/cubenet/cubeai/dev
     # docker-compose up
    

    参见cubenet/cubeai/dev目录下的README文档。

  2. 使用PyCharm打开本project所在目录。

  3. 建议在PyCharm中专门为本project新建一个专用Python虚拟环境,Python版本选择3.5以上(建议Python 3.5.9)。

  4. 在PyCharm的terminal窗口中执行如下命令安装依赖包:

     # sh pip-install-reqs.sh
    

    依赖包安装完成后,可在terminal窗口中执行如下命令来查看serviceboot所有命令行格式:

     # serviceboot
    
  5. 在PyCharm窗口中右键单击“start.py”文件,选择“run ‘start’”或者“debug ‘start’”来运行或调试程序。

  6. 开发完成后,可在terminal窗口中执行如下命令来生成微服务docker镜像:

     # serviceboot build_docker
     或者
     # sh build-docker.sh
    

简介

CubeAI智立方——AI模型导入微服务

Python Dockerfile Shell Text other