公共运行时和AI模型

更新时间: 2024-09-29

一些程序会依赖一些系统运行时，平台可以统一维护，减少重复下载，简化软件部署。

AI 应用会越来越多，很多程序的模型是相同的，这里提供一种机制，统一管理 AI模型。

设计目标

• 平台统一维护公共运行时，比如 jdk , python , vcredist 等
• 软件开发者只需要提交软件时，声明依赖即可
• 用户安装软件的时候，平台自动按照依赖
• 运行时，平台自动注入对应运行时到环境变量中
• 平台统一维护下载通用的 AI 模型，减少重复下载

实现方案

管理后台

• 统一的运行时维护界面
• 统一的 AI 模型维护界面
• 提交软件：可以选择依赖的运行时和 AI 模型

PC端

• 安装软件时，自动匹配运行时，如果未下载，则下载对应运行时
• 运行时管理界面: 可以删除运行时，警告用户软件可能无法运行
• AI 模型管理界面: 可以删除 AI 模型，警告用户软件可能无法运行

调用约定

• 根据软件的依赖说明，启动软件时，将运行时目录注入到环境变量中
• 提供运行时检测 API
• 提供 AI 模型检测 API
• 提供 AI 下载 API