检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
本文介绍如何将微调后的模型或部分平台预置的模型部署为模型服务。 前提条件 已购买推理单元资源,具体购买方法请参见购买AI原生应用引擎包年包月资源。 由于在线运行需消耗资源,请确保账户有可用资源,且用户费用状态正常。 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。
代码仓管理是开发中心集成代码托管CodeArts Repo服务的能力,是遵循Git的基本运行模式的分布式版本管理平台,其具备安全管控、成员/权限管理、分支保护/合并、在线编辑、统计服务等功能,旨在解决软件开发者在跨地域协同、多分支并发、代码版本管理、安全性等方面的问题。 如果您计划开始一个新项目,那么您可以
如果创建Agent时,使用配置变量的方式实现了记忆能力,在Agent体验时,会自动识别对话与变量匹配的内容,自动更新变量取值,单击页面右上角的“变量”,可以查看变量使用效果。 如果创建Agent时,开启了“片段记忆”,在Agent体验时,会自动识别并保留用户个性化信息,单击页面右上角的“片段记忆”,可以查看片段记忆使用效果。
AppStage开发中心知识库是面向开发团队的知识管理系统,支持知识全生命周期管理,帮助您完成智能、安全的知识作业,提供层级式的目录树、多人在线协同编辑等功能。 目前此功能仅支持白名单用户通过提交工单申请使用。详细操作请参考提交工单。 前提条件 已获取项目经理、开发人员或测试人员角色权限,权限申请方法请参见申请权限。
知识检索流作为知识库检索工具,基于意图识别、Query改写、Query拆解、召回和重排序等,支持可视化RAG检索编排,可以提升检索过程的灵活度与检索结果的质量。 单击,在“知识检索流”弹框中选择知识检索流。 变量 变量用来存储用户的某一行为或偏好,在对话过程中,会自动识别与变量匹配的内容,并存储在变量中。
义屏幕构建。 前提条件 需要具备AppStage指标开发者或运营管理员权限,权限申请的操作请参见权限管理。 已创建我的卡片,具体请参见使用在线构建方式新建卡片、使用模板构建方式新建卡片、使用离线构建方式新建卡片。 新建屏幕模板 登录AppStage业务控制台。 在快捷入口选择“运营中心”,进入运营中心。
购买AppStage运营中心 首次使用需要先购买运营中心专业版,具体操作请参见购买AppStage。 配置服务授权 购买运营中心后,系统将自动识别并弹框提示进行服务授权,同意服务授权后,AppStage将在统一身份认证服务IAM中为账号创建名称为appstage_admin_agency的委托。
检索规划包含“Query拆解”、“Query改写”、“意图识别”三个执行动作,执行动作参数配置说明如表1所示。 Query拆解:配置适当的模型将原始查询内容拆解为更简单、易理解的请求。 Query改写:配置适当的模型对原始查询内容进行改写、优化,使得原始请求更准确。 意图识别:配置适当的模型对原始内容进行意图判断。
运行时引擎依赖于运维中心能力,首次使用需要先购买运维中心,具体操作请参见购买AppStage。 配置服务授权 购买运行时引擎后,系统将自动识别并弹框提示进行服务授权,同意服务授权后,AppStage将在统一身份认证服务IAM中为账号创建名称为appstage_admin_agency的委托。
购买AppStage运维中心 首次使用需要先购买运维中心专业版,具体操作请参见购买AppStage。 配置服务授权 购买运维中心后,系统将自动识别并弹框提示进行服务授权,同意服务授权后,AppStage将在统一身份认证服务IAM中为账号创建名称为appstage_admin_agency的委托。
计费项说明 适用的计费模式 计费公式 ChatGLM3-6B大模型服务API在线调用 根据实际输入和输出tokens总量计费,平台提供算力支持。 按需计费 千tokens * 每千tokens单价 大模型微调服务API在线调用-SFT局部调优 根据实际输入和输出tokens总量计费,平台提供算力支持。
仅适用于使用“上传卡片”方式新建的卡片。 编辑卡片 卡片形式:在需要编辑的卡片上,单击“编辑”。 列表形式:在对应的“操作”列下,单击“编辑”。 说明: 适用于使用“在线构建”、“模板构建”方式新建的卡片。 查看卡片详情 卡片形式:单击“更多 > 详情”,可以查看卡片详情。 列表形式:在对应的“版本号”列下,单击版本号。
M3-6B服务、大模型调优服务API在线调用。 套餐包单价+按需计费(ChatGLM3-6B服务、大模型调优服务API在线调用) 知识库容量:50GB 智能应用运行时引擎(20实例):2个 ChatGLM3-6B服务、大模型调优服务API在线调用根据实际输入和输出tokens总量计费,计费规则请参考按需计费
新建及管理我的卡片 新建卡片分类为卡片分组 使用在线构建方式新建卡片 使用模板构建方式新建卡片 使用离线构建方式新建卡片 管理我的卡片 父主题: 在运营中心自定义运营看板
支持将平台资产中心预置的部分模型作为微调前基础模型,也可以选择微调后的新模型作为基础模型再次进行微调。 前提条件 已订购大模型微调服务API在线调用-SFT局部调优,订购方法请参见购买AI原生应用引擎按需计费资源。 已具备格式为“对话文本”的微调数据集,具体请参考创建微调数据集或收藏预置微调数据集。
符,通常是一个短字符串或缩写。 指标显示名 必填。在数据分析或监控系统中显示的指标名称,通常是一个更易于理解和识别的字符串。 描述 可选。对指标进行详细说明和解释的文字描述。 表2 指标配置 参数 说明 指标类型 必填。要统计的指标的种类。 普通型指标 复合型指标 静态指标 数据模型
指标名称 指标描述 操作类别次数 统计周期内,总操作次数与操作类别数的比值。 内容动态类型数量 统计周期内,发布成功的各类别内容动态的条数(文字、图片、视频)。 使用建议 操作类别次数可以帮助我们了解用户在使用产品时的行为习惯,从而优化产品设计和用户体验。 内容动态类型数量可以帮助
Req)服务中“缺陷(Bug)”相关的能力,缺陷管理严格把控缺陷提出、分析、修复、测试、验收、关闭的完整流程,提供跨项目的缺陷作业跟踪追溯能力,实时识别产品缺陷风险,为组织的产品交付质量提供保障。 Scrum项目:在开发中心直接创建缺陷,创建后数据会同步至CodeArts Req服务中,具
切片提取模式为“规则提取”时,配置此参数。 单击“添加提取字段”,配置如下参数: 切片片段名称:自定义切片片段名称。 提取的片段数量最多10个,名称由英文字母、数字和下划线组成,只能由英文字母开头,最长为20个字符。 提取规则:分隔符提取、按规则提取。 提取设置 当提取规则为“分隔符提取”时,例如:以分隔符;对
营中心指标增量包-100个指标 预置模型服务调用 API SaaS:ChatGLM3-6B大模型服务API在线调用 自定义模型训练 API SaaS:大模型微调服务API在线调用-SFT局部调优 说明: 按需仅适用于AppStage的AI原生应用引擎。 变更计费模式 不支持。 不支持。