检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
查看模型调用统计 模型调用统计页面展示当前租户所在的根部门以及租户下二级子部门的模型调用情况。 前提条件 需要具备AI原生应用引擎租户运营管理员权限，权限申请操作请参见AppStage组织成员申请权限。 查看模型调用统计 在AI原生应用引擎的左侧导航栏选择“运营看板 > 模型调用统计”。
大模型微调需要的数据有要求吗？ AI原生应用引擎用于大模型微调的数据集任务领域为“自然语言处理”、数据集格式为“对话文本”。 文件内容要求为标准json数组，例如： [{"instruction": "aaa", "input": "aaa", "output": "aaa"},{"instruction":
创建微调数据集 对于需要个性化定制模型或者在特定任务上追求更高性能表现的场景，往往需要对大语言模型进行模型微调以适应特定任务。微调数据集是模型微调的基础，通过在微调数据集上进行训练从而获得改进后的新模型。 平台在资产中心预置了部分微调数据集，同时也支持用户根据需求自定义创建微调数据集。本文介绍如何创建微调数据集。
开源模型怎么部署？ 开源模型的部署需要购买推理单元，具体操作如下： 在AI原生应用引擎的左侧导航栏选择“资产中心”，选择“大模型”页签。 将鼠标光标移至待部署的开源模型卡片上，单击“部署”。 在“创建部署服务”页面，可以查看到需要几个推理单元，单击“购买推理单元资源”。 图1 创建部署服务
库的基础；微调数据集是模型微调的基础，通过在微调数据集上进行训练，您可以获得改进后的新模型以适应特定任务。 模型管理 支持通过API接入模型服务，同时支持将平台预置模型进行微调后，部署为模型服务，为检验模型的准确性及反应效果，您可以通过调测模型能力进行体验调测，确保模型能够在实际应用中正常运行。
模型调测时，无法选择模型服务商API是什么原因？ 对模型服务商API调测前，需要先设置鉴权，具体操作请参见如何对模型供应商提供的模型服务设置鉴权。 父主题： AI原生应用引擎
基于微调数据集进行模型微调 创建微调数据集 收藏预置微调数据集 对微调数据集进行数据标注 创建模型微调任务 父主题： 管理模型
平台有没有预置模型？ 平台预置了开源模型chatglm3-6b，并提供对应的模型服务API，但是该模型能力有限，只能作为问答模型，不能作为思考模型。首次使用该模型服务API需要订购免费的“ChatGLM3-6B大模型服务API在线调用”资源，订购后即可进行体验，订购操作请参见购买AppStage。
一站式创建Agent时如何取消选择默认模型，更换为其他模型 单击已选择的模型名称，在弹出框中单击模型名称后面的，取消选择当前模型，在下拉框中重新勾选其他模型即可。 父主题： AI原生应用引擎
上，单击卡片右上角。 单击工具卡片右上角的，可以取消收藏。 收藏成功后，您可以在“知识中心 > 微调数据集”页面“数据集列表”页签的“我收藏的”子页签下，查看收藏结果。 单击数据集列表操作列的“取消收藏”，可以取消收藏。 单击数据集列表中的数据集名称，可以便捷地查看数据集详情，包括基本信息、调度信息及版本记录。
AI原生应用引擎支持所有数据集进行数据标注吗？ 进行标注的数据集必须同时满足用途为“模型训练”、任务领域为“自然语言处理”、任务子领域为“文本生成”、数据集格式为“对话文本”四个条件。 父主题： AI原生应用引擎
工作流的返回是json格式，但是大模型会进行总结，如何以json格式直接输出? 创建Agent配置工作流时，支持选择模式，选择为“总结模式”时，大模型会对工作流的输出进行总结；选择为“精确模式”时大模型不会总结，直接返回工作流的输出，如图1所示，具体介绍请参见创建并发布Agent。
速推进引导对话的发展，或者增加故事的复杂性和深度。大模型会基于提示语所提供的信息，生成对应的文本或者图片。 测试提示语 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面，选择“提示语模板”页签。 将鼠标光标移至提示语模板卡片上，单击“测试”，进入模型调测页面。 在
以变量标识符“双大括号{{}}”为例，提示语中的变量内容则填入双大括号{{}}中。 引用模板提示语内容： 单击输入框右侧的“引用模板”选择我创建的、我收藏的或平台预置的提示语模板。 推理模型 将提示语应用于我创建的、平台预置的或第三方模型服务中，预览推理结果。 选择推理模型后，可配置推理模型的相关参数，如表3所示。
模型调用 文本对话 文本向量化 父主题： API
新建模型失败 问题描述 新建数据模型时，提示保存失败。 处理方法 检查数据模型度量数据的“聚合类型”函数设置是否合理，比如“聚合类型”设置为求和“sum”函数，这种情况会导致数据建模保存报错。 父主题： 运营中心
模型微调任务一直在等待中是什么原因？ 模型微调任务一直在“等待中”状态，表示当前平台资源规格紧张，任务需要进行排队，请耐心等待。 父主题： AI原生应用引擎
> 大模型”，查看支持的模型服务。例如调用Baichuan2-Turbo模型服务，model填写为Baichuan2-Turbo即可。 租户部署模型服务 登录AI原生应用引擎，在左侧导航栏选择“模型中心 > 我的模型服务 > 我部署的”，model填写为对应模型服务的模型服务调用ID。
用于将事实和规则以一定的形式表示出来，推理机则用于实现推理过程，推理策略则用于指导推理机的搜索和推理方向。 大语言模型 大语言模型是一种能够理解和生成人类语言的人工智能模型。这些模型通常使用大量的数据进行训练，以便它们能够识别语言中的模式和规律。大语言模型的应用范围非常广泛，包括
布数据模型。 下线数据模型 当指定数据模型为“已发布”状态时，单击操作列“下线”，可以下线数据模型。 修改数据模型 当指定数据模型为“草稿”或“已下线”状态时，单击“修改”，可以修改数据模型信息。 删除数据模型 当指定数据模型为“草稿”状态时，单击“删除”，可以删除数据模型。 说明：
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
