检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
delete:用于删除服务器上的资源,通常使用URL参数指定要删除的资源。 put:用于更新服务器上的资源,通常将更新的数据放在请求体中。 patch:请求服务器更新资源的部分内容。当资源不存在的时候,patch可能会去创建一个新的资源。
AI原生应用引擎计费项 计费说明 AI原生应用引擎根据购买的套餐包计费或按需计费。具体内容如表1所示。 表1 AI原生应用引擎计费项说明 计费项 计费项说明 适用的计费模式 计费公式 ChatGLM3-6B大模型服务API在线调用 根据实际输入和输出tokens总量计费,平台提供算力支持
AI原生应用引擎使用流程 AI原生应用引擎是企业专属的一站式大模型开发及应用构建平台,其核心是将自创建或平台预置的模型服务、工具、工作流及知识库等编排成具有一定智能性和自主性的Agent。本章节梳理了AI原生应用引擎使用流程,可帮助您快速了解AI原生应用引擎的核心功能。 图1 AI
容错策略 Failover:尝试新的服务器次数:1,尝试同一个服务器次数:0。 Failfast:尝试新的服务器次数:0,尝试同一个服务器次数:0。 Failback:尝试新的服务器次数:0,尝试同一个服务器次数:1。
容错策略 Failover:尝试新的服务器次数:1,尝试同一个服务器次数:0。 Failfast:尝试新的服务器次数:0,尝试同一个服务器次数:0。 Failback:尝试新的服务器次数:0,尝试同一个服务器次数:1。
请求头(Header):HTTP请求消息的组成部分之一,请求头负责通知服务器有关于客户端请求的信息。 单击参数列表“操作”列的可以新增参数,参数配置说明请参见表4。 请求体(Body):HTTP请求消息的组成部分之一,请求体呈现发送给服务器的数据。
虚拟机:适用于虚拟机部署DCS、DMQ、SLB、GaussDB等。 访问控制 选择访问控制类型。 安全组:使用安全组来控制网络互通策略,一般容器场景下使用。 ACL:使用网络ACL来控制网络互通策略,仅支持虚拟机场景下使用。
AI原生应用引擎概览页介绍 进入AI原生应用引擎 登录AppStage。 在快捷入口选择“AI原生应用引擎”,进入AI原生应用引擎。 概览页介绍 在AI原生应用引擎的左侧导航栏选择“概览” ,进入概览页,可获得系统中各资源数据概览及产品的相关快速指引。 概览页分为数据统计、选择应用创建类型
将已有模型部署为模型服务 模型需要部署成功后才可正式提供模型服务。部署成功后,可以对模型服务进行模型调测,并支持在创建Agent时使用或通过模型调用接口调用。 本文介绍如何将微调后的模型或部分平台资产中心的模型部署为模型服务。 前提条件 已购买推理单元资源,具体购买方法请参见购买AI
500 服务器内部错误或三方服务器内部错误。 错误码 请参见错误码。 父主题: 应用中心
删除告警任务失败 告警后触发知识编排任务提示alert_type不存在 创建CES指标采集报错 如何卸载虚拟机上安装的filebeat? 异常检测Judge定时任务失败 保存异常检测告警配置时报错
下载AI原生应用引擎SDK AI原生应用引擎面向开发者提供了一套搭建原生应用的Python SDK,包含了模型调用,知识获取,工具调用等功能。开发者可以使用SDK调用AI原生应用引擎的各种能力,快速构建大模型应用。 用户可以通过AI原生应用引擎平台下载SDK,同时对SDK完整性进行校验以确保获取的
AI原生应用引擎SDK API 版本变更记录 SDK概述 快速开始 应用示例 modules模块 错误处理 日志处理
使用Rainbow SDK(NUWA框架) 引入Rainbow SDK Rainbow SDK依赖Cloud Map的注册和发现能力,在引入Rainbow SDK之前,要先引入STS SDK和Cloud Map SDK,并完成STS和Cloud Map的初始化,具体请参见使用STS
AI原生应用引擎使用前准备 使用AI原生应用引擎前,需要先准备如表1所示内容。 表1 准备事项 准备事项 说明 购买AI原生应用引擎 首次使用需要先购买AI原生应用引擎,具体操作请参见购买AppStage。 为AppStage关联组织 首次购买AppStage后,其账号需创建并关联使用
创建路由策略用于提供模型服务 通过配置路由策略,可以实现模型故障自动切换能力,当模型A因故障等原因无法正常工作时,可以自动切换为另一个可用的模型提供服务,从而提高模型服务的稳定性和可用性。 路由策略创建完成后,可以进行模型调测,并支持在创建Agent时使用或通过接口调用。 前提条件
当服务器加入到隔离域后,即受到这些访问规则的保护。访问规则继承自选定的安全区域(安全域),并根据租户声明的服务依赖关系自动生成。 图1 ENS与原有模式差异 隔离域内部是在虚机子网或者容器网段上加安全域包装在一起的,当建立了隔离域后,业务层只感知隔离域与隔离域之间的互通关系。
AI原生应用引擎资产中心介绍 在AI原生应用引擎的左侧导航栏选择“资产中心” ,进入资产中心页面,资产中心页面分为搜索、快速筛选、卡片展示三个区域,如图1所示。 资产中心提供了AI应用、工具、大模型、数据集及提示语模板各类资产,请参考表1了解各类资产及使用说明。 ①:搜索区域,输入资产名称关键字进行搜索
500 服务器内部错误或三方服务器内部错误。 错误码 请参见错误码。 父主题: 应用中心
SSL_do_handshake() failed 问题现象 配置同步失败,日志详细信息提示如下: "SSL_do_handshake() failed" 解决方法 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发 > 负载均衡”。 选择左侧导航栏的“