检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
对创建的提示语进行优化 提示语优化是针对提示语进行结构、排版、内容等维度进行优化和改进,将大模型的输入限定在了一个特定的范围之中,进而更好地控制模型的输出。通过提供清晰和具体的指令,引导模型输出并生成高相关、高准确且高质量的文本对答内容,属于自然语言处理领域突破的重要技术,可以提升用户的使用体验和效率
创建路由策略用于提供模型服务 通过配置路由策略,可以实现模型故障自动切换能力,当模型A因故障等原因无法正常工作时,可以自动切换为另一个可用的模型提供服务,从而提高模型服务的稳定性和可用性。 路由策略创建完成后,可以进行模型调测,并支持在创建Agent时使用或通过模型调用接口调用。
按需计费 按需计费是一种先使用再付费的计费模式,适用于无需任何预付款或长期承诺的用户。本文将介绍按需计费资源的计费规则。 适用场景 按需计费适用于资源需求波动的场景,在使用AppStage的用户创建应用、测试模型服务时需要调用ChatGLM3-6B大模型服务API在线调用、大模型微调服务
虚拟机日志接入 本章节介绍如何通过filebeat采集虚拟机日志。 监控服务安装filebeat是使用子用户sudo权限进行安装,SUSE15系统没有自带sudo命令。如果需要采集的虚拟机操作系统为SUSE15,需要使用root用户登录主机,并执行zypper install sudo
创建版本 版本是服务开发的基本单元,是指软件、应用程序或系统有序开发而特定发布的单元。每个版本都有一个唯一的标识符,通常是一个数字或字母组合,用于区分不同的版本。为开发团队所要开发的产品/服务创建版本,在版本管理活动中进行流水线和发布流程等有序版本开发过程管理。 前提条件 已创建服务
账号信息管理 在账号信息页面,用户可以便捷地查看当前登录账号的相关信息(账号名、所属部门)以及修改账号密码。为保障账号安全,建议定期更新密码。 查看账号信息 登录AppStage业务控制台。 鼠标光标移至右上角登录的用户名,弹出“账号信息”页面,可查看当前登录账号的相关信息:账号名
账号信息管理 在账号信息页面,用户可以便捷地查看当前登录账号的相关信息(账号名、所属部门)以及修改账号密码。为保障账号安全,建议定期更新密码。 查看账号信息 登录AppStage业务控制台。 鼠标光标移至右上角登录的用户名,弹出“账号信息”页面,可查看当前登录账号的相关信息:账号名
管理账号信息 在账号信息页面,用户可以便捷地查看当前登录账号的账户信息(账号名、岗位),以及修改账号密码。为保障账号安全,建议定期更新密码。 查看账户信息 登录AI原生应用引擎,将鼠标移至右上角登录的用户名,弹出“账户信息”页面,可查看当前登录用户的账户信息:账号名、岗位。 修改成员账号密码
在SLB中管理灰度状态 管理灰度发布的整个执行阶段。 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 启动灰度 如果初始配置发布时,没有选择启用灰度,灰度服务当前状态为待启动,可以在灰度管理中启用灰度。 进入AppStage运维中心
在SLB中配置负载均衡其他配置项 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 其他配置 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发 > 负载均衡”。 选择左侧导航栏的“实例管理”。 在实例列表中单击实例名称
接入模型服务 支持通过API接入模型服务,模型服务接入后,可以进行模型调测,并支持在创建Agent时使用或通过模型调用接口调用。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 模型API接入之前,请确保符合相对应的接口规范
SQL包 SQL包是指包含了通过WiseDBA执行的SQL脚本的zip包,分为DDL和DML两种类型。 文件名 SQL包命名建议:<service_name>-<instance_type>-<site_name>-<type>-<version>.zip 包结构 图1 SQL包结构
AI原生应用引擎基本概念 使用之前,请先了解表1中相关概念,从而更好的使用AI原生应用引擎。 表1 基本概念说明 基本概念 说明 Agent Agent指具备自主智能的实体,具有一定的智能和自主性,可以自主地发现问题、设定目标、构思策略、执行任务等。 技能 技能是在自动化和人工智能领域的应用程序
运行时引擎访问凭据管理服务功能介绍 访问凭据管理服务(Access Credential Management Service,简称ACMS,也称为Security Token Service,简称STS)为云服务业务提供了以下两个功能: 微服务之间请求认证 ACMS为每个接入的微服务
产品优势 一站式平台 面向应用全生命周期管理提供一站式能力。提供从开发、部署、运维和运营全场景全生命周期管理。 统一的应用基础信息管理,支持开发、部署到运维阶段信息共享和消费,实现全自动化。 面向开发,运维和运营提供集成式工具链和统一作业平台,实现经验和能力的流程内置。 按需灵活组装能力
常见问题 异常1:Username is Emty! 异常:ERROR com.huawei.rainbow.utils.parser.DbNodeConfParser:46 - [] - appConfStr is not json format 原因:业务直接往ETCD里面set
使用Rainbow SDK(Spring Cloud框架) 引入Rainbow SDK Rainbow SDK依赖Cloud Map的注册和发现能力,在引入Rainbow SDK之前,要先引入STS SDK和Cloud Map SDK,并完成STS和Cloud Map的初始化,具体请参见使用
了解代码结构 OrgID登录功能Demo的代码结构如图1所示。 图1 代码结构 deploy_docker为docker部署配置信息。 ├─deploy_docker │ ├─bin │ │ configparser
在SLB中进行限流配置 限制指定窗口内的访问频次。 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 流控类型介绍 支持的流控类型有节点级流控,服务级流控,接口级流控,IP流控,自定义参数流控,多参数组合流控,配额流控及并发连接流控,
如何在工作流中定制逻辑实现特定任务,比如时间格式转换、数组对象的push等 工作流提供了Code代码节点,通过Code代码节点可以在工作流中编写Python代码,根据具体需求定制逻辑以实现特定的任务,如图1所示,具体介绍请参见Code代码。 图1 Code代码节点配置 时间格式转换代码示例