检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
配置运行时引擎负载均衡 运行时引擎负载均衡功能介绍 在SLB中创建和管理负载均衡实例 在SLB中创建和管理监听 在SLB中创建和管理灰度服务 在SLB中创建和管理流控服务 在SLB中创建和管理资源
模型调用统计页面展示当前租户所在的根部门以及租户下二级子部门的模型调用情况。 前提条件 需要具备AI原生应用引擎租户运营管理员权限,权限申请操作请参见AppStage组织成员申请权限。 查看模型调用统计 在AI原生应用引擎的左侧导航栏选择“运营看板 > 模型调用统计”。 在模型调用统计页面,默认展示当前租
Agent调用统计页面展示当前租户所在的根部门以及租户下二级子部门的Agent调用情况。 前提条件 需要具备AI原生应用引擎租户运营管理员权限,权限申请操作请参见AppStage组织成员申请权限。 查看模型调用统计 在AI原生应用引擎的左侧导航栏选择“运营看板 > Agent调用统计”。 在Agent调用统计页面,默
SDK概述 AI原生应用引擎SDK面向开发者提供了一套搭建原生应用的Python SDK,包含了模型调用,知识获取,工具调用等功能。开发者可以使用SDK调用AI原生应用引擎的各种能力,帮助开发者快速构建大模型应用。 表1 模块说明 序号 模块 功能 1 HttpxClient 负责发送HTTP请求的基类。
步骤二:通过IaC发布敏感配置 业务使用Runtime部署并按照IaC规范配置敏感配置项之后,在部署时Runtime会从STS管理台拉取加密配置项,注入到容器的环境变量中,并通过配置渲染工具将敏感配置渲染到业务的配置文件中。 在IaC脚本中的业务配置项配置文件中指定敏感配置项坐标。 此处以在config_records
使用部署包创建模板,根据模板创建虚拟机部署的变更任务,实现使用部署脚本完成软件的自动化部署。 部署包 镜像包 用户容器部署时使用的Docker的容器镜像包。 使用开发中心推包 在IaC代码中定义需要使用的镜像包,通过IaC变更完成容器化部署。 镜像包 SQL包 执行SQL变更的DDL、DML数据库脚本。 使用开发中心推包/上传SQL包
配置运行时引擎数据库治理 运行时引擎数据库治理功能介绍 在WiseDBA中纳管和管理数据库实例 在WiseDBA中创建和管理Schema 在WiseDBA中新增和管理数据库账号 新增数据库SDK配置并注册到Cloud Map 在WiseDBA中执行SQL变更 在WiseDBA中执行SQL查询及表结构查询
Request base url is https://xxxxx, path is /v1/chat/completions 父主题: AI原生应用引擎SDK API
快速开始 下载AI原生应用引擎SDK AI原生应用引擎SDK获取地址:wiseagent-dev-sdk-python。您也可以参考下载SDK获取AI原生应用引擎SDK并进行完整性校验。 AI原生应用引擎SDK获取方法请参考。 安装AI原生应用引擎SDK 若已经安装过最新版本SDK,可以忽略此步骤。
AI原生应用引擎支持所有数据集进行数据标注吗? 进行标注的数据集必须同时满足用途为“模型训练”、任务领域为“自然语言处理”、任务子领域为“文本生成”、数据集格式为“对话文本”四个条件。 父主题: AI原生应用引擎
在实际应用中的效果。 本文以AI原生应用引擎预置的baichuan-13B为基座模型,通过微调提升模型的数据分析和指标计算能力,帮助您快速掌握使用AI原生应用引擎完成模型调优并测试效果。 使用流程 通过图1您可以了解如何在AI原生应用引擎创建数据集、创建微调任务、部署模型以及在线测试模型效果。
"my-rerank-model", "query": "请问AI原生应用引擎提供了什么能力?", "docs": ["AI原生应用引擎提供了应用开发、模型网关等能力。", "AI原生应用引擎正在逐步完善、提高竞争力。"], "top_n": 3 } 响应体参数
错误处理 在使用AI原生应用引擎SDK时,当服务端或者SDK端出错时,SDK会返回相应的异常信息,请参见下表进行处理。 状态码 错误码 错误信息 描述 处理措施 200 AIAE.22001001 API调用异常 API调用异常 调用接口url、请求方式错误或出现访问其他用户资源的越权问题,请检查后重试
版本变更记录 表1 版本变更记录 版本 变更类型 说明 0.0.1 - 第一次发布。 父主题: AI原生应用引擎SDK API
”。 选择左侧导航栏的“配置信息”,可以查看微服务的基本信息,配置信息页面展示最后一次部署成功之后的微服务配置信息。包括微服务的基本信息、容器信息、健康检查配置、HOST配置、环境变量等配置详情。 父主题: 在微服务平台管理微服务
在SLB中创建和管理资源 在SLB中创建资源 在SLB中创建资源组 父主题: 配置运行时引擎负载均衡
ModelRouter ModelRouter提供了AI原生应用引擎模型网关的接口,可以访问AI原生应用引擎上的模型,接口调用类似OpenAI。 导入ModelRouter from wiseagent_dev_sdk_python.modules.models import ModelRouter
操作须知 每个用户最多可添加两个平台API Key。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 创建API Key 在AI原生应用引擎的左侧导航栏选择“凭证管理 > 我的凭证”。 在“我的凭证”页面,选择“平台API
如何获取Agent发布时所需的API Key? 填写AI原生应用引擎平台的API Key,生成方式请参见新增平台API Key。 父主题: AI原生应用引擎
实例管理”,进入实例管理页面。 您也可以单击微服务列表“实例列表/目标实例数”列的值进入实例管理页面。 在实例管理页面,可以查看实例基本信息、状态、容器信息、所属集群、所属的region以及所属AZ等。 更多操作 表1 实例管理页面操作说明 操作 说明 查看实例详情 单击实例列表中的实例ID,跳转到POD详情页面。