企业 AI 能力，
统一分发与管理。

可以在同一平台组织和管理不同集群与设备。部署时仍需分别选择适合设备的模型、精度和推理后端；统一纳管不等于不同厂商的显卡可以直接混合推理。

模型目录包含千问、DeepSeek、智谱 GLM、Kimi、Gemma 等系列，以及向量、图像和语音模型。内置 vLLM、SGLang、MindIE、VoxBox 推理后端。具体型号与设备组合，应结合框架要求进行部署验证。

先核对操作系统、驱动、可用显存、存储和网络条件，再接入 Worker 节点、导入模型文件，并选择对应的推理后端部署。具体操作可查看服务手册中的资源接入与模型部署章节。

包括敏感词与正则规则、分类管理、审查测试、命中记录，以及模型服务访问管理。规则需要结合实际场景持续维护，内容审查也需要保留必要的人工复核。

通过模型路由发布服务，并为调用方配置相应的 API 密钥。业务系统使用服务地址发起请求，管理员可在平台查看模型用量、请求状态与资源运行情况。

可以配置供应商的 API 地址与密钥，通过模型路由向团队和应用分发服务。调用方使用独立的应用密钥，管理员集中管理访问权限，并查看用量、费用和请求状态。费用统计按配置的计费规则计算，实际结算以供应商账单为准。