检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
模型使用指引 操作指引 图1 模型使用操作指引 表1 模型使用流程详解 序号 流程环节 说明 1 基于微调数据集进行模型微调 创建微调数据集 收藏预置微调数据集 对于需要个性化定制模型或者在特定任务上追求更高性能表现的场景,往往需要对大语言模型进行模型微调以适应特定任务。微调数据
查看模型调用记录 用户可以通过查看模型的调用记录,获取模型调用方式、用时及调用时间等信息。 查看模型调用记录 在AI原生应用引擎的左侧导航栏选择“模型中心 > 模型调用记录”。 在“模型调用记录”页面,通过筛选调用方式、时间范围、状态,或输入模型名称可快速查看模型调用记录信息,如
调测/体验模型 通过调测模型,可检验模型的准确性、可靠性及反应效果,发现模型中存在的问题和局限性,确保模型能够在实际应用中正常运行,并且能够准确地预测和处理数据。 支持对我的模型(我部署的、我接入的)、我的路由策略、平台预置的模型以及平台接入的第三方模型进行调测。 前提条件 调测
创建提示语 平台在资产中心预置了提示语模板,同时也支持用户根据需求自定义创建提示语。在模型调测时引用创建的提示语模板,可以快速推进引导对话的发展,或者增加故事的复杂性和深度。大模型会基于提示语所提供的信息,生成对应的文本或者图片。 前提条件 需要具备AI原生应用引擎管理员或开发者
在AppStage开发中心创建缺陷 在产品研发过程中,存在各团队、各项目各自为战,产品质量难管控、缺陷修复进度难追踪的问题,严重影响产品交付效率。产品特性和功能在测试验证阶段发现的问题,可以使用缺陷单进行跟踪,对于发现的缺陷进行记录、跟踪、分析和解决,确保产品质量。 缺陷管理是开发中心集成需求管理(CodeArts
Agent编排使用指引 操作指引 图1 AI原生应用引擎使用流程 表1 编排Agent的流程详解 序号 流程环节 说明 1 创建及发布Agent 一站式创建专属Agent,并将应用程序及相关组件进行发布,使其能够正常运行。当前支持创建LLM模式和工作流模式两种类型的Agent。
导入工具 创建工具时,对于复杂的API服务,每个API都需要手动添加和配置,会导致操作量大且容易出错。平台提供了导入OpenAPI文件的功能,以减少手动创建工具的工作量。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 已获取API服务的json文件。
应用对接的整体流程 操作步骤 申请注册Huawei ID账号(已有华为ID账号跳过此步)。 注册链接:华为云,打开后单击“注册”,填写完整信息。 图1 注册HuaweiID账号 访问OrgID服务,创建OrgID组织。 单击“创建组织”,填写组织信息。 单击“进入控制台”,进入控制台。
创建并发布Agent Agent指具备自主智能的AI实体应用,具有一定的智能和自主性,可以自主地发现问题、设定目标、构思策略、执行任务等。 平台在资产中心预置了部分AI应用,同时也支持用户创建Agent,当前支持创建LLM模式和工作流模式两种类型的Agent。 LLM模式下,将准
模型API接入接口规范 当前模型网关支持文本对话(Chat)、文本向量化(Embeddings)、文本排序(Rerank)三种类型的API接入。模型API接入之前,请确保符合相对应的接口规范,其中Chat接口和Embeddings接口需要符合OpenAI接口规范,Rerank接口需要符合AI引擎标准协议。
创建工具 工具是一组相关的API集合,一个工具通常包含多个执行动作,每个执行动作用于实现特定功能。在创建Agent时调用工具,可以有效提高Agent开发的效率。 平台在资产中心预置了部分工具,同时也支持用户根据需求自定义创建工具。在创建工具时,需要先将选定的API服务注册为一个工
创建团队 在开发中心进行服务开发前,需要组织管理员创建一个团队,将团队关联需要开发的服务。一个团队只能归属一个部门,可以关联一个或多个服务。 前提条件 需要具备AppStage组织管理员角色权限,具体角色权限说明请参考用户角色和权限说明。 创建团队时需绑定团队归属部门并关联服务,
新建项目为屏幕分组 为了更好地管理屏幕,使用该功能新建相应的项目来划分屏幕分组,并在相应的分组来新建屏幕模板。 前提条件 需要具备AppStage指标开发者或运营管理员权限,权限申请的操作请参见权限管理。 新建项目 在AppStage首页右上区域单击“运营中心”快捷入口,进入运营中心。
新建卡片分类为卡片分组 为了更好地管理卡片,在新建卡片时选择相应的卡片分类,需要您使用该功能新建相应的卡片分类。 前提条件 需要具备AppStage指标开发者或运营管理员权限,权限申请的操作请参见权限管理。 新建卡片分类 在AppStage首页右上区域单击“运营中心”快捷入口,进入运营中心。
新建屏幕模板分组 为了更好地管理屏幕模板,使用该功能新建相应的屏幕模板分组,在对应的分组中新建屏幕模板。 前提条件 需要具备AppStage指标开发者或运营管理员权限,权限申请的操作请参见权限管理。 新建屏幕模板分组 登录AppStage业务控制台。 在快捷入口选择“运营中心”,进入运营中心。
接入模型服务 支持通过API接入模型服务,模型服务接入后,可以进行模型调测,并支持在创建Agent时使用或通过模型调用接口调用。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 模型API接入之前,请确保符合相对应的接口
收藏上架的工具 其他租户或资源相互隔离的部门,如需使用资产中心上架的工具,需要先收藏到“我的工具”列表中,方可便捷地进行使用。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 收藏其他租户上架的工具 在AI原生应用引擎的左侧导航栏选择“资产中心”。
创建API Key API Key是每个用户单独的身份认证,是个人调用应用接口的依据,必须妥善保管。用户开发的Agent在调用平台接口时需要进行平台鉴权认证,可以使用“平台API Key”进行平台的鉴权认证。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。
转发策略配置 本章介绍通过IaC进行转发策略配置的管理,包括监听下的转发策略、健康检查、后端服务器及动态路由管理。对应的资源类型为WiseCloud::LoadBalancer::SLB::RouteRule。 表1 转发策略配置字段说明 参数名 类型 是否必选 说明 listenerGroupName
申请开通AppStage AppStage在公测阶段需要先申请并通过人工审核后才可以购买和使用。 AppStage目前正在公测中,用户申请公测不收取费用,申请通过且购买AppStage后才能公测使用,购买AppStage时会根据不同产品类型收费。 前提条件 登录用户为已实名认证的华为账号或华为云账号。