检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
大模型微调需要的数据有要求吗? AI原生应用引擎用于大模型微调的数据集任务领域为“自然语言处理”、数据集格式为“对话文本”。 文件内容要求为标准json数组,例如: [{"instruction": "aaa", "input": "aaa", "output": "aaa"},{"instruction":
通过模型微调任务进行模型训练,微调任务结束后,将生成改进后的新模型。 部署模型 模型部署是通过为基座模型(即原模型)和微调后的新模型创建用于预测的模型服务的过程实现。 测试模型调优效果 在线测试微调后的模型(输入问题发起请求获取数据分析结果),可检验模型的准确性、可靠性及反应效果。 清除相应资源 对
AI原生应用引擎训练好后的模型如何获取? 使用模型微调训练好模型后的新模型只能通过模型部署(创建模型服务)上线,无法下载至本地使用。 父主题: AI原生应用引擎
> 大模型”,查看支持的模型服务。例如调用Baichuan2-Turbo模型服务,model填写为Baichuan2-Turbo即可。 租户部署模型服务 登录AI原生应用引擎,在左侧导航栏选择“模型中心 > 我的模型服务 > 我部署的”,model填写为对应模型服务的模型服务调用ID。
per 无模型阈值上限 0-100000000 默认值100000000 无模型时配置的阈值上限(固定阈值线)。 对于新增的接口,因为没有历史数据,无法训练出该接口的模型,此时可以配置合适的值用来监控此类接口。 no_model_threshold_lower 无模型阈值下限 0-100000000
单击数据集列表操作列的“取消收藏”,可以取消收藏。 单击数据集列表中的数据集名称,可以便捷地查看数据集详情,包括基本信息、调度信息及版本记录。 父主题: 管理模型
模型微调任务一直在等待中是什么原因? 模型微调任务一直在“等待中”状态,表示当前平台资源规格紧张,任务需要进行排队,请耐心等待。 父主题: AI原生应用引擎
文件盒子 功能介绍 在文件盒子中上传文件,基于上传文件问答。 URI POST https://aiae.appstage.myhuaweicloud.com/v1/routes/open/fileBox/upload 请求参数 表1 请求Header参数 参数 是否必选 参数类型
环境。 导入存量资源 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 部署服务”。 选择左侧导航栏的“环境管理 > 服务环境管理”。 单击“更多 > 存量导入”。 在“存量导入”页面,选择被导入资源类型。 单击“创建导入计划”。 是否支持导入由资源本身决定,各个站点可导入的资源不同。
我创建的微调数据集会被其他用户调用去训练他们的大模型吗? 用户个人创建的数据集是属于个人账号下的专属数据,未经本人许可不会被其他人员查看到,且不会被其他用户在大模型训练时调用。 父主题: AI原生应用引擎
Model,大语言模型)即大模型,仅包含“chat”一个执行动作。 运行动作 输入参数 用户配置运行动作执行动作,相关参数说明如表1所示。 表1 运行动作属性配置输入参数说明 参数 是否必填项 说明 模型服务调用ID 是 从“Agent编排中心 > 我的模型服务”列表中“模型服务调用ID”列获取。
应用数据接入一次性任务运行失败 问题描述 应用数据接入时,执行一次性任务,提示运行失败。 处理方法 应用数据接入时,OBS路径必须填文件夹的路径,不可以填文件的路径,否则将会导致运行失败。 父主题: 运营中心
础;微调数据集是模型微调的基础,通过在微调数据集上进行训练,您可以获得改进后的新模型以适应特定任务。 模型管理 支持通过API接入模型服务,同时支持将平台预置模型进行微调后,部署为模型服务,为检验模型的准确性及反应效果,您可以通过调测模型能力进行体验调测,确保模型能够在实际应用中正常运行。
应用数据接入周期性任务运行失败 问题描述 应用数据接入时,执行周期性任务,提示运行失败。 处理方法 检查数据文件是否按照要求放在pt_d=****/pt_h的文件夹下面。 父主题: 运营中心
产品运营人员能直观查看关键数据,分析产品运营过程中取得的成效和潜在问题。 数据模型 运营中心提供数据建模能力,运营人员可以新建实时数据模型和离线数据模型,也可以通过逆向数据库生成数据模型。通过提供多表关联建模整合表能力,一个数据模型可以映射多个数据表数据。 指标管理 运营中心提供指标自定义灵活配
对于华为或者第三方运营的商业化模型服务,支持通过API接入到AI原生应用引擎。模型运营方负责模型能力及技术支持,租户自行在模型运营方订购服务,或者通过云市场订购模型服务后,在AI原生应用引擎创建平台API Key,即可通过AI原生应用引擎平台调用模型接口。 前提条件 需要具备AI
删除告警任务失败 问题描述 删除告警任务失败,提示某个mppdb表不存在。 处理办法 将该mppdb表手动重建后,再尝试删除告警任务。 父主题: 运维中心监控服务
-hashfile 绝对路径下文件 校验值。 例如:certutil -hashfile C:\Users\xxxx\tcp.xml sha256 Linux系统SHA256哈希值生成方法 打开终端,进入到SDK文件所在目录。 执行sha256sum 文件名,生成该文件的SHA256。 例如:sha256sum
如何往容器中拷贝文件或拷出文件? 前提条件 要求NUWA镜像的版本为3.0.4.101或以上。 准备一台VM机器。 从VM拷贝文件到容器 scp username@server-ip:/path/filename /path // 从VM下载文件 将容器中的文件拷贝到VM 将容器中的文件拷贝到VM
ModelRouter 导入ModelRouter from wiseagent_dev_sdk_python.modules.models import ModelRouter ModelRouter提供了AI原生应用引擎模型网关的接口,可以访问AI原生应用引擎上的模型,接口调用类似OpenAI。