检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
我创建的微调数据集会被其他用户调用去训练他们的大模型吗? 用户个人创建的数据集是属于个人账号下的专属数据,未经本人许可不会被其他人员查看到,且不会被其他用户在大模型训练时调用。 父主题: AI原生应用引擎
工具创建完成后,您可以执行如表7的操作。 表7 相关操作 操作 说明 编辑工具 在工具列表中,单击操作列的“修改”,支持编辑工具的名称、描述、图标、协议、基准URL以及验证方式。 单击“更新”。 说明: 已上架的工具编辑后,需要重新上架,资产中心的工具才能更新生效。 申请上架工具 将工具上架至资产中心
工作流中知识库节点、LLM节点都需要配置实例,实例的API Key填什么? 鉴权信息,填写AI原生应用引擎平台的API Key,生成方式请参见新增平台API Key。仅AI原生应用引擎管理员角色可以创建API Key,请通过管理员获取。 父主题: AI原生应用引擎
Code代码节点的输入输出参数如何与其他节点进行交互和传递? 输入:按照函数定义中指定的参数列表配置入参,即传递给函数的实际值。支持输入参数或选择前序节点的输出作为输入。 图1 Code代码节点输入 输出:Python代码的函数中定义的每个变量都可在后置节点中引用。 图2 Code代码节点输出
标记)的关联偏差值。 像-1和1这样的适度值将以较小的程度改变选择标记的概率。 使用logit_bias参数时,偏差被添加到模型生成的logits之前进行抽样。 max_tokens 否 Integer 返回体允许的最大token数。 n 否 Integer 返回体中包含的cho
工作流的返回是json格式,但是大模型会进行总结,如何以json格式直接输出? 创建Agent配置工作流时,支持选择模式,选择为“总结模式”时,大模型会对工作流的输出进行总结;选择为“精确模式”时大模型不会总结,直接返回工作流的输出,如图1所示,具体介绍请参见创建并发布Agent。
解决方法 在VMS上检查通道是否异常,具体操作如下: 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 主机管理服务(VMS)”。 选择左侧导航栏的“运维账号 > 账号列表”,进入“账号列表”页面。 单击账号所在行“操作”列的“检查通道状态”,可检查当前主机用户的SSH连接状态。
管理Agent Agent编排使用指引 创建并发布Agent 体验Agent 使用Agent 收藏资产中心预置的AI应用
管理模型 模型使用指引 基于微调数据集进行模型微调 生成模型服务 调测/体验模型 查看模型调用记录 收藏平台资产中心的模型 模型API接入接口规范 如何对模型供应商提供的模型服务设置鉴权
服务器上的资源,通常使用URL参数指定要删除的资源。 put:put请求,用于更新服务器上的资源,通常将更新的数据放在请求体中。 patch:请求服务器更新资源的部分内容。当资源不存在的时候,patch可能会去创建一个新的资源。 API请求体架构 请求头 HTTP请求消息的组成部
管理工具 创建工具 将创建的工具上架到资产中心 收藏上架的工具 调用资产中心工具前设置认证鉴权
手动安装OpsAgent失败怎么办? 问题描述 远程登录主机后,手动执行复制的安装命令安装OpsAgent时出现如图1所示报错。 图1 安装OpsAgent失败 根因分析 为主机安装OpsAgent需要通过169.254.169.254获取主机元数据信息,安装失败的原因可能是169.254
工作流模式下,用户与工作流进行对话,因此必须添加工作流,不支持添加模型、工具、知识库等配置。 2 体验Agent 以对话的形式,对创建的Agent或平台资产中心预置的AI应用进行体验调测,以发现并解决Agent接口上的问题和错误。 3 使用Agent 支持通过API接口调用或Web界面访问两种方式使用Agent。
context): """ 函数是方法的入口 :param event: 执行事件(event), 包含用户定义的函数参数以及所选择的的连接器认证相关参数 :param context: Runtime提供的函数执行上下文 :return:
ModelRouter PromptTemplate KnowledgeRetriever ApplicationCenter 父主题: AI原生应用引擎SDK介绍
管理提示语 创建提示语 对创建的提示语进行优化 管理资产中心预置提示语
test failed [FAILED" 解决办法 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发 > 负载均衡”。 选择左侧导航栏的“监听管理”。 在监听管理页面,单击监听名称。 在监听详情页面选择“后端服务器”页签,检查该后端服务器集群中的节点是否都在线,如果都下线会报此错误。
将${version}替换成实际所使用的SDK版本。 如果采用本地依赖的方式引入SDK,即手动将本地下载的SDK包引入到工程,还需要添加间接依赖:httpx、pydantic、jinja2。 初始化SDK 在使用SDK之前,请配置鉴权参数。支持WiseAgent平台的API Key鉴权。 import os
查看模型调用记录 用户可以通过查看模型(包括平台预置模型及自建模型)的调用记录,获取模型调用方式、用时及调用时间等信息。 查看模型调用记录 在AI原生应用引擎的左侧导航栏选择“模型中心 > 模型调用记录”。 在“模型调用记录”页面,通过筛选调用方式、时间范围、状态,或输入模型名称
平台有没有预置模型? 平台预置了开源模型chatglm3-6b,并提供对应的模型服务API,但是该模型能力有限,只能作为问答模型,不能作为思考模型。首次使用该模型服务API需要订购免费的“ChatGLM3-6B大模型服务API在线调用”资源,订购后即可进行体验,订购操作请参见购买AppStage。