ModelMesh 安装

type
status
date
slug
summary
tags
category
icon
password
网址
KServe ModelMesh 安装支持高规模、高密度和频繁变更的模型服务用例。
需要一个 Kubernetes 集群。您需要集群管理员权限。此外,还需要在 Kubernetes 集群上安装 kustomizeetcd 服务器。

1. 标准安装

您可以在 ModelMesh Serving 的安装指南中找到标准安装说明。这种方法假定您已经安装了所需的前置条件,如 etcd 和兼容 S3 的对象存储。

2. 快速安装

快速安装让您能够迅速部署并运行 ModelMesh Serving,无需手动安装前置条件。相关步骤在 ModelMesh Serving 的快速入门指南中有详细说明。
注意
ModelMesh Serving 是命名空间作用域的,这意味着其所有组件必须存在于单个命名空间中,且每个命名空间只能安装一个 ModelMesh Serving 实例。有关更多详细信息,您可以查看 ModelMesh Serving 的入门指南
上一篇
使用替代网络层部署推理服务(InferenceService)
下一篇
Kubernetes deployment 安装
Loading...
文章列表
Kserve中文文档
快速开始
管理指南
用户指南
开发指南
机器学习概念
大模型周报