检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
模型微调是指调整大型语言模型的参数以适应特定任务的过程,适用于需要个性化定制模型或者在特定任务上追求更高性能表现的场景。这是通过在与任务相关的微调数据集上训练模型来实现的,所需的微调量取决于任务的复杂性和数据集的大小。在深度学习中,微调用于改进预训练模型的性能。 支持将平台资产中心的部分模型作为
选择需要关联的迭代,也可勾选“自动创建新迭代”,自动创建的新迭代名称默认为版本号。 产能 必填项,指版本开发团队每天能提供的开发人员的数量。单位:人/天。 选择计划时间 版本开始时间 必填项,版本开始的日期。 自动创建新发布计划或自动创建新迭代时,开始时间默认为设置的版本开始时间。
的时代,面临的问题是如何在数据世界中获取到准确且有价值的信息,例如同一个指标在不同的应用场景,哪个才是准确的?这么多数据我的业务监控是否都覆盖了?以及是否有无价值和未合理使用的数据等,因此如何有效管理数据资产成了当前重点关注的问题。 解决方案 本章节介绍如何通过AppStage运
集成工具链到开发中心 工具链是一系列用于研发流程的工具。不同类型的工具可以作用于研发流程中的不同阶段,通过工具间的配合,形成一整套的研发工具链。研发流程的各个环节有工具协助,可以降低沟通成本,把各个流程集中化管理,有效提升研发效率。 AppStage开发中心支持集成代码检查、缺陷
agent-id 是 String 参数解释: Agent的唯一id。进入AI原生应用引擎,在左侧导航栏选择“Agent编排中心 > 我的Agent”,选择“我创建的”页签,选择列表操作列的“更多 > 修改”,在浏览器地址栏查看id。 约束限制: 不涉及。 取值范围: 由英文字母和数字组成,长度为32个字符。
以变量标识符“双大括号{{}}”为例,提示语中的变量内容则填入双大括号{{}}中。 引用模板提示语内容: 单击输入框右侧的“引用模板”选择我创建的、我收藏的或平台预置的提示语模板。 推理模型 将提示语应用于我创建的、平台预置的或第三方模型服务中,预览推理结果。 选择推理模型后,可配置推理模型的相关参数,如表2所示。
限。 操作步骤 在开发中心首页下方的“我的团队”区域,选择需要操作的团队卡片,进入该团队空间。 如果该团队关联多个服务,可在顶部切换团队关联的其他服务。也可在顶部切换其他团队。 在左侧导航栏选择“测试”。 选择需要的测试功能进行操作,测试功能的详细介绍如表1所示。 表1 测试功能说明
resource-path 资源路径,即API访问路径。从具体API的URI模块获取,例如文本对话API的resource-path为“/v1/chat/completions”。 query-string 查询参数,是可选部分,并不是每个API都有查询参数。查询参数前面需要带一个“?”,形式为“参数名=参数取值”,例如“
表5 管理我接入的模型服务 操作 说明 取消发布模型服务 在模型列表“操作”列单击“取消发布”。 模型调测 在“我接入的”页签的服务列表中,单击“操作”列“模型调测”。 参照调测模型的步骤,完成模型测试。 修改模型服务 在“我接入的”页签的服务列表中,选择“操作”列的“更多 > 修改”。
告警定义名称 自定义告警定义的名称。 级别 选择该规则生成告警的级别。 告警类型 选择告警类型,上报的告警会显示类型信息,可根据类型筛选查看告警。 指标 选择在指标仓库已创建的指标,创建指标请参见在运维中心指标仓库创建指标。 维度列表 来自于指标的逻辑实体上的维度,选择异常检测需要对哪些维度做检测。
在WiseDBA中查询数据库对象统计信息 支持对GaussDB数据库进行表对象统计和索引对象统计。 查询对象统计 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发 > 数据库治理”。 选择左侧导航栏的“实时诊断”。 在左侧树中选择目标数据库类型以及目标节点,选择“对象统计”页签。
取值范围为0~1,例如配置为0.5,则返回相似度大于等于0.5的结果。 查询数量 查询最大返回数量。 选择数据集 选择待测试的数据集。 在“测试结果”区域查看测试效果,测试结果根据相似度从大到小进行排序。 在“测试历史”区域查看该知识库的测试历史记录,每个知识库测试记录最多保留50条。 更多操作
模型服务调用ID 是 需要调用的大模型。 对于资产中心预置的模型,在资产中心选择“大模型”页签,单击模型卡片进入模型详情页面,查看模型服务调用ID。 对于我的模型(我部署的、我接入的)和我的路由策略,需要填写模型服务调用ID,请单击“获取模型服务调用ID”,进入“我的模型服务”页面,在模型服务列表中单击复制。
按需计费 按需计费是一种先使用再付费的计费模式,适用于无需任何预付款或长期承诺的用户。本文将介绍按需计费资源的计费规则。 适用场景 按需计费适用于资源需求波动的场景,在使用AppStage的用户创建应用、测试模型服务时需要调用ChatGLM3-6B大模型服务API在线调用、大模型
代码检查任务名称,可自定义。 仓库 选择需要检查的代码仓库。 分支 填写需要检查的仓库分支名称。 检查语言 选择需要检查的代码语言。 返回5的“任务配置”页面,在“请选择需要调用的任务”下拉列表中选择已配置完成的代码检查任务,“仓库”下拉列表选择创建代码仓库中已创建的仓库,其他参数无需配置,保持默认即可。
近10天:表示统计前10天的数据,不包含当天,数据存到当天。 近15天:表示统计前15天的数据,不包含当天,数据存到当天。 近30天:表示统计前30天的数据,不包含当天,数据存到当天。 近60天:表示统计前60天的数据,不包含当天,数据存到当天。 近90天:表示统计前90天的数据,不包含当天,数据存到当天。
global文件夹里面的微服务都可以被规格文件夹specs中的代码复用(可根据meta.yaml指定复用哪些微服务,取决于在相应环境的部署规划)。 global文件夹的作用类似于Java中的父类,spec类似于继承了global的子类,实际部署时还是使用的specs中的文件,但specs中的文件可以继承和复用global文件。
成较少见的单词。 在右侧“模型效果预览”区域查看效果。 更多操作 模型路由策略创建完成后,可执行如表3所示的操作。 表3 更多操作 操作 说明 修改路由策略 在“我的路由策略”页签的列表中,单击“操作”列的“编辑”,可以编辑总超时时间、模型重试次数、描述信息,更改选择的模型、调整模型数量及模型顺序。
例如虚拟机所在区域为华北-北京四,那么对应的项目名称为cn-north-4,具体可以在华为云控制台,鼠标悬停在右上角的用户名,选择下拉列表中的“我的凭证”,在项目列表中查看,如图1所示。 图1 区域与项目 projectId 根据选择的domainId和区域,默认显示所属的项目ID。 镜像仓地址 输入镜像仓地址。
选择部署包,即软件仓库中运维中心提供的部署包、开发中心发布的部署包或手动上传部署包。 部署包是由ansible-playbook编写的脚本包,不同的部署包实现不同的部署能力。 (可选)在模板列表中单击已创建的模板所在行“操作”列的“更多 > 创建任务”,在创建任务页面配置相应的参数,单击“提交”,然后在任务列表运行该任务。