模型存储-使用AzureBlob

type
status
date
slug
summary
tags
category
icon
password
网址
 

使用公共 Azure Blob

默认情况下,KServe 使用匿名客户端下载文件。要指向 Azure Blob,需要指定 StorageUri 来指向 Azure Blob 存储,格式为:https://{$STORAGE_ACCOUNT_NAME}.blob.core.windows.net/{$CONTAINER}/{$PATH}

使用私有 Blob

KServe 支持使用 Azure 服务主体进行身份验证。

创建授权的 Azure 服务主体

  • 要创建 Azure 服务主体,请按照此处的步骤操作。
  • 为服务主体分配 Storage Blob Data Owner 角色(KServe 需要此权限,因为它需要列出 blob 路径中的内容以筛选要下载的项目)。
  • 有关分配存储角色的详细信息,请参见此处

创建 Azure 密钥并附加到服务账户

创建 Azure 密钥

 
也可以使用 SAS 令牌进行身份验证:

将密钥附加到服务账户

使用 InferenceService 在 Azure 上部署模型

创建带有 azure storageUri 的 InferenceService 以及附加了 azure 凭证的服务账户。
 
应用 sklearn-azure.yaml

运行预测

现在可以通过 ${INGRESS_HOST}:${INGRESS_PORT} 访问入口,或按照此说明查找入口 IP 和端口。
预期输出
上一篇
模型存储 - CA证书配置
下一篇
模型存储 - PVC
Loading...
文章列表
Kserve中文文档
快速开始
管理指南
用户指南
开发指南
机器学习概念
大模型周报