检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
本文介绍如何将微调后的模型或部分平台预置的模型部署为模型服务。 前提条件 已购买推理单元资源,具体购买方法请参见购买AI原生应用引擎包年包月资源。 由于在线运行需消耗资源,请确保账户有可用资源,且用户费用状态正常。 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。
代码仓管理是开发中心集成代码托管CodeArts Repo服务的能力,是遵循Git的基本运行模式的分布式版本管理平台,其具备安全管控、成员/权限管理、分支保护/合并、在线编辑、统计服务等功能,旨在解决软件开发者在跨地域协同、多分支并发、代码版本管理、安全性等方面的问题。 关于代码仓管理的常见问题请参见代码托管(CodeArts
管理我的卡片 所有卡片都可以在“我的卡片”列表中查看。 您还可以在“我的卡片”界面执行如表1的操作。 表1 相关操作 操作 说明 切换卡片显示方式 :以卡片形式展示。默认以卡片形式展示。 :以列表形式展示。 筛选卡片 通过卡片的状态、卡片来源、排序方式筛选卡片。 升级卡片 卡片形式:在需要升级的卡片上,单击“升级”。
SaaS:ChatGLM3-6B大模型服务API在线调用 自定义模型训练 API SaaS:大模型微调服务API在线调用-SFT局部调优 说明: 按需仅适用于AppStage的AI原生应用引擎。 变更计费模式 不支持。 不支持。 变更规格 支持变更套餐规格。 不支持。 适用场景 适用于可
DRDS √ 数据库主备动态切换 √ 读节点发生故障,单线程读重试 √ 基于集中式数据源信息管理和动态变更 √ 基于JDBC规范,很容易扩展支持实现JDBC规范的数据源 √ 应用直连数据库,无代理 √ 平滑加减数据库节点 √ 提供hint方式或者是编码式强制某条SQL读取从库或者主库等
屏幕名称/屏幕分组/屏幕描述:可修改。 屏幕尺寸:可对屏幕尺寸进行修改,包含默认、2K屏、4K屏和自定义。 编辑状态:可以通过切换编辑状态设置屏幕是否可编辑。 主题背景:可以单击“切换主题背景”切换主题风格。 渐进渲染/屏幕水印/版权信息/悬浮按钮:根据需求开启。 版面属性 屏幕全屏/平台渲染/微前端加载:根据需求开启或关闭。
%{} 是字段引用的语法,key1、key2、key3是要匹配的字段名。|convert_datatype是一个转换操作,表示在分割后对key3字段的数据类型进行转换(例如从字符串转为日期格式)。 field:指定了要进行分割操作的原始字段,这里是 “message”,即数据中的消息内容。
取。 是 - sign 签名字符串。从AK/SK认证中获取。 是 - resource-code WiseAgent对外开放接口对应的唯一编码,每个接口唯一。请参考表5。 是 modelmarket.chat 表4 API Key认证公共请求消息头 名称 描述 是否必选 示例 Content-Type
产品 选择需要变更的产品。 服务 选择需要变更的服务。 服务环境 选择需要变更的服务环境。 版本号 变更类型是“服务部署”时,需要选择服务部署的版本号,支持自定义输入。 变更标题 输入变更标题,默认前缀为“部署站点-服务-变更类型”。 变更内容 输入变更内容说明。 变更等级 选择变更等级,包括A、B、C、D四个等级。
实时查看关键指标数据,掌握产品运营中的重要数据,支撑下一步运营动作,提升产品运营效率。 特点 提供丰富的卡片类型,供看板选用。卡片构建方式包括:使用在线构建图表卡片、使用在线构建表单卡片、使用卡片模板新建卡片、使用离线构建新建卡片。 在看板编辑页面,通过拖拉拽的方式,以图表的形式进行呈现,直观展现产品运营看板数据。
以应用为运维对象,支持应用上下线变更、可靠&可用性、成本等管理。 应用全栈全链路数据可观测,使用AIOps算法支撑应用自动化灰变更、故障智能化诊断与恢复等场景。 应用生命周期数据可视化,避免数据孤岛。 全自动化 无人值守变更,帮助企业提升运维效率。 自动化评审,在可控的风险、适合的时间执行变更,降低人工评审成本,减少人为判断失误。
格参数,配置完成后单击“下一步”。 在创建组件变更计划中选择变更资源,创建完成后,单击“确定”。 父主题: 使用部署服务进行自动化变更
处理运维中心变更电子流 变更电子流提交后会走给审批人处理,审核变更方案的合理性,设置的各级审批人审批后会走给变更实施人做变更实施,变更实施人处理后会走给变更验证人验证变更是否成功。 处理变更电子流 进入AppStage运维中心。 将鼠标悬停在右上角的账号,选择下拉列表中的“工单管理”,默认显示“变更单管理”页面。
输入完成后按Enter键,卡片分类新建成功。 使用在线构建图表卡片 支持无模板在线构建图表卡片,也支持基于使用在线构建的图表卡片模板新建卡片。 在“配置看板”界面“我的卡片”页签中,选择卡片分类,单击“新建卡片”。 选择卡片创建方式。在“创建方式”下单击“在线构建”。 支持在线构建、模板构建、上传卡片三种方式。
创建变更时可复用的集群扩容模板 部署服务支持配置扩容模板,可以在变更环境时直接复用扩容模板,对集群进行扩容。 前提条件 已获取服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 创建扩容模板 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维 >
nonce: 请求唯一标识(UUID) ak: 凭证文件中的AK明文 resource-code: WiseAgent对外开放接口对应的唯一编码,每个接口唯一 sign: 按如下规则拼接字符串"ts={变量名}&nonce={nonce}&ak={ak}",对拼接得到的字符串pla
仅适用于使用“上传卡片”方式新建的卡片。 编辑卡片 卡片形式:在需要编辑的卡片上,单击“编辑”。 列表形式:在对应的“操作”列下,单击“编辑”。 说明: 适用于使用“在线构建”、“模板构建”方式新建的卡片。 查看卡片详情 卡片形式:单击“更多 > 详情”,可以查看卡片详情。 列表形式:在对应的“版本号”列下,单击版本号。
计费项说明 适用的计费模式 计费公式 ChatGLM3-6B大模型服务API在线调用 根据实际输入和输出tokens总量计费,平台提供算力支持。 按需计费 千tokens * 每千tokens单价 大模型微调服务API在线调用-SFT局部调优 根据实际输入和输出tokens总量计费,平台提供算力支持。
大语言模型的应用范围非常广泛,包括自然语言处理、机器翻译、语音识别、智能问答等领域。 向量化模型 向量化模型是将文本数据转换为数值向量的过程。常用于将文本转换为机器可以处理的形式,以便进行各种任务,如文本分类、情感分析、机器翻译等。 多模态模型 多模态模型是指能够处理多种类型数据
管理变更单 创建运维中心变更电子流 处理运维中心变更电子流 父主题: 管理运维中心工单