检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
自接入的模型在模型调测的时候报错是什么原因? 接入第三方模型服务时,填写的模型名称必须为该模型的模型ID/模型编码(登录第三方模型厂商官网查看),例如:Baichuan4、deepseek-chat、glm-4-air,如图1所示,否则会导致模型不可用。 图1 接入模型服务 父主题:
参数解释: 模型服务调用唯一id字段。平台定义了4种模型服务: 1.平台预置模型服务 登录AI原生应用引擎,在左侧导航栏选择”资产中心“,选择“大模型”页签,单击模型卡片进入模型详情页面,查看模型服务调用ID。 2.租户部署模型服务 登录AI原生应用引擎,在左侧导航栏选择“模型中心 >
后的新模型。 部署模型 模型部署是通过为基座模型(即原模型)和微调后的新模型创建用于预测的模型服务的过程实现。 测试模型调优效果 在线测试微调后的模型(输入问题发起请求获取数据分析结果),可检验模型的准确性、可靠性及反应效果。 清除相应资源 对于不再需要使用的微调任务和模型服务,及时清除相应资源,避免不必要的扣费。
收藏平台资产中心的模型 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“大模型”页签。 将鼠标光标移至模型卡片上,单击卡片右上角。 单击模型卡片右上角的,可以取消收藏。 收藏成功后,您可以在“模型中心 > 我的模型服务”页面“我收藏的”页签下,查看收藏结果,可以
创建微调数据集 对于需要个性化定制模型或者在特定任务上追求更高性能表现的场景,往往需要对大语言模型进行模型微调以适应特定任务。微调数据集是模型微调的基础,通过在微调数据集上进行训练从而获得改进后的新模型。 平台在资产中心预置了部分微调数据集,同时也支持用户根据需求自定义创建微调数据集。本文介绍如何创建微调数据集。
部署包 部署包就是ansible-playbook,作为业务虚拟机部署的脚本使用。 图1 部署包结构 其中package.json里面的内容为playbook。 父主题: 打包规范
容器部署 容器部署流程 上传镜像包和IaC3.0包 创建容器部署环境 使用容器部署应用 其他操作 父主题: 部署应用
以定义若干配置项。 私有配置集版本 选择私有配置版本。 私有配置前缀 私有配置集及版本选择后会自动生成私有配置前缀。 公共配置集 选择公共配置集。公共配置集是产品级别的资源, 配置集内可以定义若干配置项。 公共配置前缀 公共配置集选择后会自动生成公共配置前缀。 步骤列表 步骤名称
一站式创建Agent时如何取消选择默认模型,更换为其他模型 单击已选择的模型名称,在弹出框中单击模型名称后面的,取消选择当前模型,在下拉框中重新勾选其他模型即可。 父主题: AI原生应用引擎
部署应用 容器部署 虚拟机部署 软件仓库管理
应用部署 配置服务环境 申请资源 更新环境 父主题: 一站式应用开发、应用托管以及应用运维
将CCE集群同步至微服务平台。 在微服务平台配置部署环境。 使用容器部署应用:通过变更环境完成容器部署应用,具体操作请参见使用容器部署应用。 父主题: 容器部署
我接入的模型需要满足什么要求才能在创建Agent时作为思考模型? 模型本身支持FunctionCall。 接入的模型需要符合OpenAI接口规范且具体请参见模型API接入接口规范。 注意:流式返回的工具调用信息必须在一条消息内,不能分拆返回。 接入模型服务时 ,在模型服务描述中填
在微服务平台配置部署环境 在微服务容器化部署前,需要先为环境绑定CCE集群,用于在环境下部署和运行微服务。 前提条件 需要提前创建好变更电子流,具体请参见变更电子流管理。 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 在微服务平台中,有已
使用容器部署应用 本章节介绍如何使用容器部署应用。 前提条件 已获取服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 使用容器部署应用 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 部署服务”。 选择左侧导航栏的“环境管理 > 服务环境管理”。
收藏预置微调数据集 支持将平台预置微调数据集进行收藏,收藏后可便捷地在模型微调任务中使用。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 收藏预置微调数据集 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“数据集”页签。
创建容器部署环境 在微服务平台新增环境信息 将CCE集群同步至微服务平台 在微服务平台配置部署环境 父主题: 容器部署
准备变更电子流:部署前需要准备已审批的变更电子流,具体操作请参见创建变更电子流和处理变更电子流,且仅变更电子流中设置的变更实施人可以使用该电子流进行变更部署。 使用虚拟机部署应用:通过创建并执行变更计划完成虚拟机部署应用,具体操作请参见使用虚拟机部署应用。 父主题: 虚拟机部署
使用虚拟机部署应用 部署服务支持使用Terraform引擎(IaC2.0)能力通过实例包将业务部署至应用平台AppStage。 前提条件 已获取服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 使用虚拟机部署应用 进入AppStage运维中心。 在顶部导航栏选择服务。
基于微调数据集进行模型微调 创建微调数据集 收藏预置微调数据集 对微调数据集进行数据标注 创建模型微调任务 父主题: 管理模型