检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
用于将事实和规则以一定的形式表示出来,推理机则用于实现推理过程,推理策略则用于指导推理机的搜索和推理方向。 大语言模型 大语言模型是一种能够理解和生成人类语言的人工智能模型。这些模型通常使用大量的数据进行训练,以便它们能够识别语言中的模式和规律。大语言模型的应用范围非常广泛,包括
方式一:选择思考模型和问答模型。 思考模型用于任务规划和选择组件,主要用于工作流、知识库、工具的调用,以及入参的识别传递等。 问答模型用于问答及总结。您可以结合资产中心大模型详情介绍进行模型选择和使用。 输出最大token数:简称max_tokens,表示模型输出最大token数。 温度:
> 我的模型服务”,选择“我部署的”页签,在模型服务列表中复制模型服务调用ID。 3.租户接入模型服务 登录AI原生应用引擎,在左侧导航栏选择“模型中心 > 我的模型服务”,选择“我接入的”页签,在模型服务列表中复制模型服务调用ID。 约束限制: 不涉及。 取值范围: 不涉及。 默认取值:
布数据模型。 下线数据模型 当指定数据模型为“已发布”状态时,单击操作列“下线”,可以下线数据模型。 修改数据模型 当指定数据模型为“草稿”或“已下线”状态时,单击“修改”,可以修改数据模型信息。 删除数据模型 当指定数据模型为“草稿”状态时,单击“删除”,可以删除数据模型。 删
单击已修改告警的任务所在行“操作”列的“模型”,在任务训练模型配置中,单击“立即训练”,如图6所示,即可触发一次训练任务。 在训练历史会生成一条状态为submit的数据,根据维度值数量训练所需要的时间不一样,直到状态变成finish表示训练完成。 图6 设置任务模型训练 单击“算法配置”,在算法配置页面“当前模型”选择新生成的模型,单击“确定”。
Agent问答的时候没有回答 思考模型没有配置鉴权,或者鉴权失效了,可以通过模型调测功能测试思考模型是否正常,具体操作请参见调测/体验模型。 父主题: AI原生应用引擎
AI原生应用引擎使用流程 AI原生应用引擎是企业专属的一站式大模型开发及应用构建平台,其核心是将自创建或平台预置的模型服务、工具、工作流及知识库等编排成具有一定智能性和自主性的Agent。本章节梳理了AI原生应用引擎使用流程,可帮助您快速了解AI原生应用引擎的核心功能。 图1 AI原生应用引擎使用流程
单击“注册任务”,单击“确认”,注册模型训练任务。 单击“启动任务”,单击“确认”,启动模型训练任务,任务状态显示RUNNING表示任务启动成功。 单击“立即训练”,进行模型训练,可以在“训练历史”中查看训练任务进展。 当模型训练完成后需要在“算法配置”页签,选择当前模型。 训练的汇聚任务可以选择左侧导航栏“AI辅助诊断
应用示例 与文本对话模型进行交互 场景描述 提供用户与模型进行对话的能力,用户将文本内容写入到content中,选择填写合适的文本对话模型,与模型进行交互。其中环境变量WISEAGENT_API_KEY填写AI原生应用引擎的平台API KEY,该值用于鉴权,为必填。返回结果存在r
负责发送HTTP请求的基类。 2 ModelRouter 负责模型调用,包括文本对话、文本向量化等模型。 3 PromptTemplate 负责提示语模板的构建和初始化等。 4 KnowledgeRetriever 提供了知识库检索的能力,可以检索开发者的知识库,提取相关的信息。 5 ApplicationCenter
Agent问答的时候报错“很抱歉,我的系统似乎遇到了一些故障问题,暂时无法为您提供服务” 问题现象 图1 Agent报错 解决方法 检查创建Agent时选择的模型是否为模型服务商API,使用模型服务商API时,需要配置模型服务鉴权,新开的租户没有配置模型鉴权,具体操作请参见如何对模型供应商提供的模型服务设置鉴权。
功能介绍 该接口用于测试流前向AI原生引用引擎上传文件,目前仅支持图片格式(jpg、png、jpeg),为上传的文件提供临时访问路径,后续可以使用该访问路径调用测试流接口完成图片流的测试。 调用方法 请参见如何调用API。 URI POST https://aiae.appstage.myhuaweicloud
下载AI原生应用引擎SDK AI原生应用引擎面向开发者提供了一套搭建原生应用的Python SDK,包含了模型调用,知识获取,工具调用等功能。开发者可以使用SDK调用AI原生应用引擎的各种能力,快速构建大模型应用。 用户可以通过AI原生应用引擎平台下载SDK,同时对SDK完整性进
ERROR - fail to load 问题现象 judge日志中出现ERROR - fail to load错误提示,如下图 可能原因 日志中提示加载模型失败,可能是因为容器在启动时加载模型失败。 解决方法 依次单击“初始化Daemon”、“注册任务”和“启动任务”,重启ju
收藏资产中心预置的AI应用 支持收藏平台资产中心预置的AI应用。将自己关注的AI应用收藏后,可便捷地在收藏列表中查看应用详情及体验Agent。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 收藏资产中心预置AI应用 在AI原生应用引擎的左侧导航栏选择“资产中心”。
数据模型修改或者删除失败 问题描述 修改/删除数据模型时,提示修改/删除失败。 处理方法 检查数据模型是否已经被指标使用。 父主题: 运营中心
AI原生应用引擎 我创建的微调数据集会被其他用户调用去训练他们的大模型吗? 模型微调任务一直在等待中是什么原因? 大模型微调需要的数据有要求吗? AI原生应用引擎支持所有数据集进行数据标注吗? AI原生应用引擎中预置了哪些提示语? AI原生应用引擎训练好后的模型如何获取? 模型调
对创建的提示语进行优化 提示语优化是针对提示语进行结构、排版、内容等维度进行优化和改进,将大模型的输入限定在了一个特定的范围之中,进而更好地控制模型的输出。通过提供清晰和具体的指令,引导模型输出并生成高相关、高准确且高质量的文本对答内容,属于自然语言处理领域突破的重要技术,可以提
数据。 选择“引入更多 > 引入图片”,新增默认的WISEAGENT_IMAGE参数,表示在Agent调用工作流时,引入图片作为工作流的请求参数,支持上传的图片大小为20M。图片参数的描述是大模型识别图片的关键信息,删除描述可能会导致大模型无法识别。 节点备注 输入节点备注信息,方便后续查阅节点功能。
Adaptation,低秩适应,它是一种技术,将预训练模型权重冻结,并将可训练的秩分解矩阵注入Transformer架构的每一层,大大减少了下游任务的可训练参数数量。 Loss曲线 Loss曲线是一个用于评估模型训练效果的工具,它展示了模型在训练过程中产生的损失(Loss)随时间的变化情况。通过观察Los