模型存储 - CA证书配置

type
status
date
slug
summary
tags
category
icon
password
网址
如果您使用带有自签名证书的模型注册表,您必须跳过SSL验证或为存储初始化器应用适当的CA证书包以建立与注册表的连接。本文档说明了在KServe中可以使用的三种方法,具体如下:
  • 配置存储初始化器的CA证
  • 书包
    • 全局配置
    • 命名空间范围配置(使用storage-config密钥)
      • json
      • annotation
  • 跳过SSL验证
(注意)这仅适用于RawDeploymentServerlessDeployment。对于modelmesh,您应该将CA证书包内容添加到certificate参数中的storage-config

配置存储初始化器的CA证书包

全局配置

KServe使用inferenceservice-config ConfigMap作为默认配置。如果您想为每个推理服务添加cabundle证书,您可以在ConfigMap中设置caBundleConfigMapName。在更新ConfigMap之前,您必须在运行KServe控制器的命名空间中创建用于CA证书包的ConfigMap,并且ConfigMap中的数据键必须是cabundle.crt
notion image
  • 使用CA证书包创建ConfigMap
    • 更新inferenceservice-config ConfigMap
      更新此配置后,请重启KServe控制器pod以使更改生效。
      当您创建推理服务时,CA证书包将被复制到您的用户命名空间,并将被附加到存储初始化器容器中。

      使用storage-config密钥

      如果您只想将cabundle应用于特定的推理服务,可以在推理服务使用的storage-config密钥上使用特定注解或变量(cabundle_configmap)。在这种情况下,您必须在创建推理服务之前在用户命名空间中创建cabundle ConfigMap。
      notion image
      • 使用cabundle证书创建ConfigMap
        • storage-config密钥添加注解serving.kserve.io/s3-cabundle-configmap
          • 或者,在storage-config密钥中设置变量cabundle_configmap

            跳过SSL验证

            出于测试目的或当没有cabundle时,您可以通过禁用SSL验证轻松创建SSL连接。这也可以通过在secret-config密钥中添加注解或设置变量来实现。
            • storage-config密钥添加注解(serving.kserve.io/s3-verifyssl
              • 或者,在storage-config密钥中设置变量(verify_ssl
                上一篇
                模型存储 - 存储容器
                下一篇
                模型存储-使用AzureBlob
                Loading...
                文章列表
                Kserve中文文档
                快速开始
                管理指南
                用户指南
                开发指南
                机器学习概念
                大模型周报