检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
ModelRouter提供了AI原生应用引擎模型网关的接口，可以访问AI原生应用引擎上的模型，接口调用类似OpenAI。 实例化 表1 实例化参数 参数名 参数类型 是否必选 参数描述 base_url str False 模型网关开放的ip和端口，有默认值可以不填。功能类似OpenAI的base_url。
单击已修改告警的任务所在行“操作”列的“模型”，在任务训练模型配置中，单击“立即训练”，如图6所示，即可触发一次训练任务。 在训练历史会生成一条状态为submit的数据，根据维度值数量训练所需要的时间不一样，直到状态变成finish表示训练完成。 图6 设置任务模型训练 单击“算法配置”，在算法配置页面“当前模型”选择新生成的模型，单击“确定”。
0之间的数字。正值会尽量避免使用常见的单词和短语，更倾向于生成较少见的单词。 方式二：单击由系统智能生成模型。 说明： 如果选择的模型服务商API在创建时设置了鉴权信息，在调用前需要配置认证鉴权，具体介绍请参见如何对模型供应商提供的模型服务设置鉴权。 如果要选择“我接入的”模型A
AI原生应用引擎使用流程 AI原生应用引擎是企业专属的一站式大模型开发及应用构建平台，其核心是将自创建或平台预置的模型服务、工具、工作流及知识库等编排成具有一定智能性和自主性的Agent。本章节梳理了AI原生应用引擎使用流程，可帮助您快速了解AI原生应用引擎的核心功能。 图1 AI原生应用引擎使用流程
Agent问答的时候没有回答 思考模型没有配置鉴权，或者鉴权失效了，可以通过模型调测功能测试思考模型是否正常，具体操作请参见调测/体验模型。 父主题： AI原生应用引擎
单击“注册任务”，单击“确认”，注册模型训练任务。 单击“启动任务”，单击“确认”，启动模型训练任务，任务状态显示RUNNING表示任务启动成功。 单击“立即训练”，进行模型训练，可以在“训练历史”中查看训练任务进展。 当模型训练完成后需要在“算法配置”页签，选择当前模型。 训练的汇聚任务可以选择左侧导航栏“AI辅助诊断
Agent问答的时候报错“很抱歉，我的系统似乎遇到了一些故障问题，暂时无法为您提供服务” 问题现象 图1 Agent报错 解决方法 检查创建Agent时选择的模型是否为模型服务商API，使用模型服务商API时，需要配置模型服务鉴权，新开的租户没有配置模型鉴权，具体操作请参见如何对模型供应商提供的模型服务设置鉴权。
Key是每个用户单独的身份认证，是个人调用应用接口的依据，必须妥善保管。租户开发的Agent在调用平台接口时需要进行平台鉴权认证，可以使用“平台API Key”进行平台的鉴权认证。 背景信息 对于华为或者第三方运营的商业化模型服务，支持通过API接入到AI原生应用引擎。模型运营方负责模型能力及
ERROR - fail to load 问题现象 judge日志中出现ERROR - fail to load错误提示，如下图 可能原因 日志中提示加载模型失败，可能是因为容器在启动时加载模型失败。 解决方法 依次单击“初始化Daemon”、“注册任务”和“启动任务”，重启ju
下载AI原生应用引擎SDK AI原生应用引擎面向开发者提供了一套搭建原生应用的Python SDK，包含了模型调用，知识获取，工具调用等功能。开发者可以使用SDK调用AI原生应用引擎的各种能力，快速构建大模型应用。 用户可以通过AI原生应用引擎平台下载SDK，同时对SDK完整性进
收藏资产中心预置的AI应用 支持收藏平台资产中心预置的AI应用。将自己关注的AI应用收藏后，可便捷地在收藏列表中查看应用详情及体验Agent。 前提条件 需要具备AI原生应用引擎管理员或开发者权限，权限申请操作请参见AppStage组织成员申请权限。 收藏资产中心预置AI应用 在AI原生应用引擎的左侧导航栏选择“资产中心”。
数据模型修改或者删除失败 问题描述 修改/删除数据模型时，提示修改/删除失败。 处理方法 检查数据模型是否已经被指标使用。 父主题： 运营中心
AI原生应用引擎 我创建的微调数据集会被其他用户调用去训练他们的大模型吗？ 模型微调任务一直在等待中是什么原因？ 大模型微调需要的数据有要求吗？ AI原生应用引擎支持所有数据集进行数据标注吗？ AI原生应用引擎中预置了哪些提示语？ AI原生应用引擎训练好后的模型如何获取？ 模型调
> 大模型”，查看支持的模型服务。例如调用Baichuan2-Turbo模型服务，model填写为Baichuan2-Turbo即可。 租户部署模型服务 登录AI原生应用引擎，在左侧导航栏选择“模型中心 > 我的模型服务 > 我部署的”，model填写为对应模型服务的模型服务调用ID。
我的模型服务”列表中“模型服务调用ID”列获取。 对于我收藏的模型及资产中心的模型可以直接使用模型名称，其他的需要使用列表中的模型服务调用ID。 消息 是 选择数组类型的节点输出。 单击可切换为数组样式，配置“角色”和“对话内容（输入）”。 输出参数 该执行动作是根据用户定义的内容输出指定参数。 节点实例 单击“新增
以变量标识符“双大括号{{}}”为例，提示语中的变量内容则填入双大括号{{}}中。 引用模板提示语内容： 单击输入框右侧的“引用模板”选择我创建的、我收藏的或平台预置的提示语模板。 推理模型 将提示语应用于我创建的、平台预置的或第三方模型服务中，预览推理结果。 选择推理模型后，可配置推理模型的相关参数，如表2所示。
AI原生应用引擎计费项 计费说明 AI原生应用引擎根据购买的套餐包计费或按需计费。具体内容如表1所示。 表1 AI原生应用引擎计费项说明 计费项 计费项说明 适用的计费模式 计费公式 ChatGLM3-6B大模型服务API在线调用 根据实际输入和输出tokens总量计费，平台提供算力支持。
Adaptation，低秩适应，它是一种技术，将预训练模型权重冻结，并将可训练的秩分解矩阵注入Transformer架构的每一层，大大减少了下游任务的可训练参数数量。 Loss曲线 Loss曲线是一个用于评估模型训练效果的工具，它展示了模型在训练过程中产生的损失（Loss）随时间的变化情况。通过观察Los
按需计费是一种先使用再付费的计费模式，适用于无需任何预付款或长期承诺的用户。本文将介绍按需计费资源的计费规则。 适用场景 按需计费适用于资源需求波动的场景，在使用AppStage的用户创建应用、测试模型服务时需要调用ChatGLM3-6B大模型服务API在线调用、大模型微调服务API在线
用于设置当前分段开头与上一个分段结尾重叠部分的长度。 索引配置 向量化模型 选择向量化模型，向量化模型可以将文本数据转换为数值向量，常用于将文本转换为机器可以处理的形式，以便进行各种任务，如文本分类、情感分析、机器翻译等。 当前模型仅支持向量化512 token的内容，对应的中文约为512个字，英文与符号约900个字符，请注意分片长度。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
