检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
创建监控模板 监控服务提供_OS_DEFAULT监控模板,_OS_DEFAULT监控模板说明如表1所示,如果按主机绑定监控模板时会自动绑定该模板,用户也可以在“模板管理”页面创建本服务的监控模板,用户可以在模板内添加需要使用的插件,本章节介绍如何创建监控模板。 表1 _OS_DEFAULT监控模板说明
在SLB中进行限流配置 限制指定窗口内的访问频次。 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 流控类型介绍 支持的流控类型有节点级流控,服务级流控,接口级流控,IP流控,自定义参数流控,多参数组合流控,配额流控及并发连接流控
模型API接入接口规范 当前模型网关支持文本对话(Chat)、文本向量化(Embeddings)、文本排序(Rerank)三种类型的API接入。模型API接入之前,请确保符合相对应的接口规范,其中Chat接口和Embeddings接口需要符合OpenAI接口规范,Rerank接口需要符合AI引擎标准协议。