检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
平台有没有预置模型? 平台预置的开源模型 开源模型Qwen系列、deepseek-coder系列等 请参考将已有模型部署为模型服务进行部署,部署后即可进行调测/体验、调用。 开源模型chatglm3-6b 平台提供了对应的模型服务API,但是该模型能力有限,只能作为问答模型,不能
大模型微调需要的数据有要求吗? AI原生应用引擎用于大模型微调的数据集任务领域为“自然语言处理”、数据集格式为“对话文本”。 文件内容要求为标准json数组,例如: [{"instruction": "aaa", "input": "aaa", "output": "aaa"},{"instruction":
0包中的规格名称和环境名称的一致性进行了校验,对于不一致的场景会有如上报错,因此需要排查IaC3.0代码中的规格名称是否和现网对应的环境名称一致。正常中国区生产环境是cn_product_default,亚非拉是aaa_product_default,欧洲是eu_product_defaul
工作流的返回是json格式,但是大模型会进行总结,如何以json格式直接输出? 创建Agent配置工作流时,支持选择模式,选择为“总结模式”时,大模型会对工作流的输出进行总结;选择为“精确模式”时大模型不会总结,直接返回工作流的输出,如图1所示,具体介绍请参见创建并发布Agent。
务名称。 推送实例表示选择在哪个环境下注册微服务,此处选择的环境应与ACMS的部署环境保持一致,如:cn_product_cbu,cn表示中国站。 单击“提交”。 更多操作 微服务注册完成后,您可以执行如表1的操作。 表1 操作说明 操作 说明 修改微服务注册信息 单击微服务列表操作列的“修改”,可以配置如下信息:
什么是AI原生应用引擎 AI原生应用引擎是企业专属的一站式大模型开发及应用构建平台。无论是研发技术人员还是业务人员,都可通过简易的界面化操作,快速开发大模型应用或训练专属模型。 AI原生应用引擎提供企业专属大模型开发和应用开发的整套工具链,包括数据准备、模型选择/调优、知识工程、
我创建的微调数据集会被其他用户调用去训练他们的大模型吗? 用户个人创建的数据集是属于个人账号下的专属数据,未经本人许可不会被其他人员查看到,且不会被其他用户在大模型训练时调用。 父主题: AI原生应用引擎
选择左侧导航栏的“认证凭据托管”。 选择推送实例,单击“查询”,查看认证凭据。 此处选择的推送实例应与ACMS的部署环境保持一致,如:cn_product_cbu,cn表示中国站。 父主题: 配置访问凭据管理服务
下载AI原生应用引擎SDK AI原生应用引擎面向开发者提供了一套搭建原生应用的Python SDK,包含了模型调用,知识获取,工具调用等功能。开发者可以使用SDK调用AI原生应用引擎的各种能力,快速构建大模型应用。 用户可以通过AI原生应用引擎平台下载SDK,同时对SDK完整性进
AI原生应用引擎使用流程 AI原生应用引擎是企业专属的一站式大模型开发及应用构建平台,其核心是将自创建或平台预置的模型服务、工具、工作流及知识库等编排成具有一定智能性和自主性的Agent。本章节梳理了AI原生应用引擎使用流程,可帮助您快速了解AI原生应用引擎的核心功能。 图1 AI原生应用引擎使用流程
类型、实例名和包名等信息 "site_name": "cbu", //站点名,中国区为cbu,欧洲区为eu-cbu,亚非拉为aaa-cbu "business_name": "${business_name}",
创建并发布Agent Agent指具备自主智能的AI实体应用,具有一定的智能和自主性,可以自主地发现问题、设定目标、构思策略、执行任务等。 平台在资产中心预置了部分AI应用,同时也支持用户创建Agent,当前支持创建LLM模式和工作流模式两种类型的Agent。 LLM模式下,将准
创建提示语 平台在资产中心预置了提示语模板,同时也支持用户根据需求自定义创建提示语。在模型调测时引用创建的提示语模板,可以快速推进引导对话的发展,或者增加故事的复杂性和深度。大模型会基于提示语所提供的信息,生成对应的文本或者图片。 前提条件 需要具备AI原生应用引擎管理员或开发者
固定写为ADAC,无具体逻辑含义。 start_timestamp 告警开始时间 是 Long NA 中国区用本地时间上报。 end_timestamp 告警结束时间 是 Long NA 中国区用本地时间上报。产生告警时填0,恢复时才填写实际的值。 receive 告警接收人 否 String
创建微调数据集 对于需要个性化定制模型或者在特定任务上追求更高性能表现的场景,往往需要对大语言模型进行模型微调以适应特定任务。微调数据集是模型微调的基础,通过在微调数据集上进行训练从而获得改进后的新模型。 平台在资产中心预置了部分微调数据集,同时也支持用户根据需求自定义创建微调数据集。本文介绍如何创建微调数据集。
说明 推送实例 选择在哪个环境下配置敏感配置项。 此处选择的环境应与ACMS的部署环境保持一致,如:cn_product_cbu,cn表示中国站。 服务名称 显示当前的服务名称。 微服务名称 选择微服务名称。 敏感配置项名称 输入敏感配置项名称。 敏感配置项标签 由业务自定义输入
按需计费 按需计费是一种先使用再付费的计费模式,适用于无需任何预付款或长期承诺的用户。本文将介绍按需计费资源的计费规则。 适用场景 按需计费适用于资源需求波动的场景,在使用AppStage的用户创建应用、测试模型服务时需要调用ChatGLM3-6B大模型服务API在线调用、大模型
环境特定的IaC描述,结构与global相同,但仅包含与global有差异的文件。 │ └── cn_product_cbu/ 文件夹 1 中国区生产环境,命名采用站点级Cloud Map的名称,可以在环境管理界面查看可选的站点级Cloud Map名称列表。 │ └── values
使用工作流规划旅游行程 场景介绍 工作流体现的是一个具体的业务场景,通过一系列不同功能节点中的触发事件和执行动作编排而成,AI原生应用引擎通过将传统工具API和大模型编排在一起实现复杂的工作流。工作流可在用户创建Agent时调用,Agent使用过程中,当起始节点触发,后续动作即可自动执行,完成一系列复杂的任务。
环境特定的IaC描述,结构与global相同,但仅包含与global有差异的文件。 │ └── cn_product_cbu/ 文件夹 1 中国区生产环境,命名采用站点级Cloud Map的名称,可以在环境管理界面查看可选的站点级Cloud Map名称列表。 │ └── environment/