检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
3-6B服务、大模型调优服务API在线调用。 套餐包单价+按需计费(ChatGLM3-6B服务、大模型调优服务API在线调用) 知识库容量:10GB 智能应用运行时引擎(1实例):2个 ChatGLM3-6B服务、大模型调优服务API在线调用根据实际输入和输出tokens总量计费,计费规则请参考按需计费
补充所选变量”,在Agent中添加变量。 知识 知识库设置 单击,设置如下参数: 自动调用:每一轮对话自动调用知识库,利用知识库召回内容辅助大模型生成回复内容。 按需调用:由大模型决策是否调用知识库,利用知识库召回内容辅助大模型生成回复内容。 最大召回数量:从检索结果中返回的内容片段数量,取值范围:0~10。
AI原生应用引擎 我创建的微调数据集会被其他用户调用去训练他们的大模型吗? 模型微调任务一直在等待中是什么原因? 大模型微调需要的数据有要求吗? AI原生应用引擎支持所有数据集进行数据标注吗? AI原生应用引擎中预置了哪些提示语? AI原生应用引擎训练好后的模型如何获取? 模型调
2所示。 表2 遍历集合元素输入参数说明 参数 是否必填项 说明 条件 是 数据集合需要满足的条件。 输出参数 用户可以在之后的执行动作中调用该输出参数,输出参数说明请参考表3。 表3 遍历集合元素输出参数说明 参数 说明 当前项 遍历集合元素的当前项。 节点备注 输入节点备注信息,方便后续查阅节点功能。
API 模型调用 应用中心 知识中心
方(Provider)实例节点把自己的IP和端口注册到Cloud Map,并通过心跳的方式维持注册。调用方(Consumer)实例查询Provider的所有实例列表,实现点对点调用。微服务属于一个服务,一个微服务可能有多个集群。 中间件 中间件对应一个中间件集群,Cloud Ma
方(Provider)实例节点把自己的IP和端口注册到Cloud Map,并通过心跳的方式维持注册。调用方(Consumer)实例查询Provider的所有实例列表,实现点对点调用。微服务属于一个服务,一个微服务可能有多个集群。 中间件 中间件对应一个中间件集群,Cloud Ma
心指标增量包-10个指标、运营中心指标增量包-100个指标 预置模型服务调用 API SaaS:ChatGLM3-6B大模型服务API在线调用 自定义模型训练 API SaaS:大模型微调服务API在线调用-SFT局部调优 说明: 按需仅适用于AppStage的AI原生应用引擎。
必选(M)/可选(O) 字段说明 时间 M YYYY-MM-DD<1SP>hh:mm:ss[.SSS] 微服务名 M 被调用的微服务名称。 灰度服务名 M 为被调用的微服务名称,或为被调用的微服务的映射服务名称。 请求次数 M 周期值,每个周期清零,重新计数。 未进行匹配次数 M 未进行灰度匹
参数 必须 说明 基本输入 是 待解析的对象或者数组。 JSON对象 是 根据对象定义模式设置参数。 输出参数 用户可以在之后的执行动作中调用该输出参数,输出参数说明如表2所示。 表2 json解析输出参数说明 参数 说明 响应体 json解析输出参数对象。 节点备注 输入节点备注信息,方便后续查阅节点功能。
“CodeArtsCheck代码检查”并将鼠标移至该插件卡片,单击“添加”,将此插件添加到任务中。 在“任务配置”页面右侧区域“请选择需要调用的任务”处单击“点击创建”。 在“新建任务”页面,参照表2配置参数信息(此处以创建Repo源码源检查任务为例)。 表2 参数说明 参数项 描述
解决:使用正确的密码。 原因2:如果用的是cloud+stsl连的高斯数据库,原因是没有STS的调用步骤。 通过搜索rainbow日志关键字:Password is Empty! 解决:正确调用STS。 原因3:本地连接报这个错。 解决: 先把配置信息删除,给Schema创建新的业务账号,新增配置信息。
将olc目录复制到tfinstance下,自行在meta.json中添加资源组,调用olc即可。 将olc目录复制到tfinstance下,再将生成的meta.json与自己服务的meta.json合并即可。 IAC的provider已经上线,业务无需关心。直接在部署服务调用部署相应的资源组即可。 父主题: 创建和管理流控服务
管理工具 创建工具 导入工具 将创建的工具上架到资产中心 收藏上架的工具 调用资产中心工具前设置认证鉴权
管理模型 模型使用指引 基于微调数据集进行模型微调 生成模型服务 调测/体验模型 评测模型 查看模型调用记录 收藏平台资产中心的模型 模型API接入接口规范 如何对平台接入的第三方模型服务设置鉴权
将olc目录复制到tfinstance下,自行在meta.json中添加资源组,调用olc即可。 将olc目录复制到tfinstance下,再将生成的meta.json与自己服务的meta.json合并即可。 IAC的provider已经上线,业务无需关心。直接在部署服务调用部署相应的资源组即可。 父主题: 在SLB中创建和管理流控服务
工作流基础节点说明 起始节点 调用子工作流 数据连接器 LLM 知识库 变量V2 控制 JSON构造器 Code代码 结束 父主题: 管理工作流
回相应的异常信息,请参见下表进行处理。 状态码 错误码 错误信息 描述 处理措施 200 AIAE.22001001 API调用异常 API调用异常 调用接口url、请求方式错误或出现访问其他用户资源的越权问题,请检查后重试 200 AIAE.22001002 IAM认证异常 IAM认证异常
odeArtsCheck代码检查”后的“添加”,将此插件添加到任务中,如图4所示。 图4 代码检查 在“任务配置”页面右侧区域“请选择需要调用的任务”处单击“点击创建”,如图5所示,进入“新建任务”页面,参照表2配置参数信息(此处以创建Repo源码源检查任务为例),配置完成后单击“新建任务”。
务所在的虚拟机或容器里。微服务使用该证书,就可以到STS-Server上获取认证凭据。 两个微服务之间通信时,被调用方(Provider)需要在ACMS管理台上给调用方(Consumer)配置访问权限(Access Control List,简称ACL),开通后,Consumer