检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
工作流的返回是json格式,但是大模型会进行总结,如何以json格式直接输出? 创建Agent配置工作流时,支持选择模式,选择为“总结模式”时,大模型会对工作流的输出进行总结;选择为“精确模式”时大模型不会总结,直接返回工作流的输出,如图1所示,具体介绍请参见创建并发布Agent。
String 按照用户配置的工作流请求参数配置,如果用户配置的工作流输入存在查询参数,则应该配置对应的参数并在调用时输入特定的值。 请求参数 表3 请求Header参数 参数 是否必选 参数类型 描述 authorization 是 String AI原生应用引擎鉴权API Key。
集群名称,查看filebeat运行状态。 状态为运行中,如图3所示,执行5。 图3 filebeat运行状态 非运行中的集群可执行6。 执行systemctl stop 集群名称,暂停filebeat。 在/opt/huawei/apps/common目录下,分别执行如下命令,删除filebeat相关文件。
管理资产中心预置提示语 提示语是给大模型的指令,它可以是一个问题、一段文字描述,也可以是带有一系列参数的文字描述。 AI原生应用引擎资产中心预置了多款提示语模板,这些模板是基于大量应用场景下的经验或者训练语料而总结出一些优质的提示语组成结构,将其抽离成为一种模板,支持测试、一键快
delete:用于删除服务器上的资源,通常使用URL参数指定要删除的资源。 put:用于更新服务器上的资源,通常将更新的数据放在请求体中。 patch:请求服务器更新资源的部分内容。当资源不存在的时候,patch可能会去创建一个新的资源。 API请求体架构 请求头 HTTP请求消息的组成部分之一,
AI原生应用引擎中预置了哪些提示语? AI原生应用引擎预置了多款提示语模板,包含智能问答,智能写作,生活助手,智能分析,智能文档,生活助手等提示语类型,每个提示语类型下面都有对应类型相关提示语,如指标计算方法,问答场景选择,总结大纲,买家评价生成器等提示语。 父主题: AI原生应用引擎
AppStage运营中心应用场景 运营中心在AppStage服务应用的全生命周期的背景下,以应用运营为主线,主要面向应用运营者提供应用运营的分析底座、领域或行业经验资产以及可视化看板等能力,帮助用户高效率、低门槛的展开应用运营,支撑业务的成功。 用户可以通过应用数据接入、数据模型
e的运维中心、运营中心的计费项由套餐包及对应的扩展包、增量包组成;AI原生应用引擎的计费项为模型或套餐包。了解每种计费项的计费因子、计费公式等信息,请参考计费项。 续费 包年/包月AppStage服务在到期后,会影响AppStage的正常运行。如果您想继续使用AppStage,需
查看模型调用统计 模型调用统计页面展示当前租户所在的根部门以及租户下二级子部门的模型调用情况。 前提条件 需要具备AI原生应用引擎租户运营管理员权限,权限申请操作请参见AppStage组织成员申请权限。 查看模型调用统计 在AI原生应用引擎的左侧导航栏选择“运营看板 > 模型调用统计”。
Agent体验是指以对话的形式,对我创建的Agent或平台资产中心预置的AI应用进行体验调测,以发现并解决Agent接口上的问题和错误。 体验Agent 在AI原生应用引擎的左侧导航栏选择“Agent编排中心 > 我的Agent”。 选择“我创建的”页签,单击Agent列表“操作”列的“体验”。
工作流模式下,用户与工作流进行对话,因此必须添加工作流,不支持添加模型、工具、知识库等配置。 2 体验Agent 以对话的形式,对创建的Agent或平台资产中心预置的AI应用进行体验调测,以发现并解决Agent接口上的问题和错误。 3 使用Agent 支持通过API接口调用或Web界面访问两种方式使用Agent。 父主题:
该参数接受一个JSON对象,将标记映射到从-100(禁止)到100(独占选择标记)的关联偏差值。 像-1和1这样的适度值将以较小的程度改变选择标记的概率。 使用logit_bias参数时,偏差被添加到模型生成的logits之前进行抽样。 max_tokens 否 Integer 返回体允许的最大token数。 n
管理Cloud Map中的服务资源 Cloud Map服务资源介绍 申请开通Cloud Map 查看服务总览和依赖关系图 查看注册到CloudMap的服务信息 查看注册到CloudMap的微服务信息 查看和管理注册到CloudMap的微服务实例 查看注册到CloudMap的数据库列表 在CloudMap中新增接入地址
请求Body参数 参数 是否必选 参数类型 描述 agent-id 是 String 进入AI原生应用引擎,在左侧导航栏选择“Agent编排中心 > 我的Agent”,选择“我创建的”页签,选择列表操作列的“更多 > 修改”,在浏览器地址栏查看id。 attachment-code 是 String
查看注册到Cloud Map的中间件 中间件是指业务服务实现自身功能需要用到的技术组件,随业务服务独立部署和运维。 中间件统一展示在中间件列表中,中间件列表只提供数据的查询和展示,不提供对数据的增、删、改操作。所有的增删改操作都在各中间件的管理台上操作,中间件管理台上的操作,会自动同步到Cloud
在资产总览页面可以查看当前租户所在的根部门以及租户下二级子部门的资产(Agent、模型、数据集、提示语、工具及知识库)统计数据,并支持通过各资产面板,筛选查看各子部门资产的创建、收藏及订阅数据。 前提条件 需要具备AI原生应用引擎租户运营管理员权限,权限申请操作请参见AppStage组织成员申请权限。
应用数据接入一次性任务运行失败 问题描述 应用数据接入时,执行一次性任务,提示运行失败。 处理方法 应用数据接入时,OBS路径必须填文件夹的路径,不可以填文件的路径,否则将会导致运行失败。 父主题: 运营中心
ModelRouter提供了AI原生应用引擎模型网关的接口,可以访问AI原生应用引擎上的模型,接口调用类似OpenAI。 实例化 表1 实例化参数 参数名 参数类型 是否必选 参数描述 base_url str False 模型网关开放的ip和端口,有默认值可以不填。功能类似OpenAI的base_url。
> 我创建的”页面的应用列表中的“操作”列,单击“取消发布”。 单击“确认”。 删除Agent 对于已发布的Agent,可先取消发布再删除。 在“我的Agent > 我创建的”页面的应用列表中的“操作”列,选择“更多 > 删除”。 单击“确认”。 体验Agent 我创建的Agent
以变量标识符“双大括号{{}}”为例,提示语中的变量内容则填入双大括号{{}}中。 引用模板提示语内容: 单击输入框右侧的“引用模板”选择我创建的、我收藏的或平台预置的提示语模板。 推理模型 将提示语应用于我创建的、平台预置的或第三方模型服务中,预览推理结果。 选择推理模型后,可配置推理模型的相关参数,如表3所示。 表3