检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
支持添加多个,使用英文逗号分隔,不允许存在中文及空格。 匹配类型 接口名称的匹配类型,支持以下两种: 精确匹配 正则匹配 接口等级 接口的重要程度,用于节点级动态流控,系统过载时优先放通核心接口。 核心接口 次核心接口 重要接口 次重要接口 一般接口 接口名称 填写需要进行流控的接口名称。 对于匹配类型为精确匹配,
支持添加多个,使用英文逗号分隔,不允许存在中文及空格。 匹配类型 接口名称的匹配类型,支持以下两种: 精确匹配 正则匹配 接口等级 接口的重要程度,用于节点级动态流控,系统过载时优先放通核心接口。 核心接口 次核心接口 重要接口 次重要接口 一般接口 接口名称 填写需要进行流控的接口名称。 对于匹配类型为精确匹配,
创建工具时,对于复杂的API服务,每个API都需要手动添加和配置,会导致操作量大且容易出错。平台提供了导入OpenAPI文件的功能,以减少手动创建工具的工作量。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 已获取API服务的json文件。
log中提示“Started {微服务名称} in *** seconds (JVM running for ***)”,表示业务可以正常启动。 验证接口能否正常调用 验证接口能否正常调用,本实践中以验证Cloud Map间的相互通信及OrgID的登录流程为例。 配置host。 打开C:\Wi
型的性能。 2 生成模型服务 将已有模型部署为模型服务 接入模型服务 支持通过API接入模型服务,同时支持将平台预置模型进行微调后,部署为模型服务,模型服务可以在创建Agent时使用或通过模型调用接口调用。 3 调测模型 通过调测模型,可检验模型的准确性、可靠性及反应效果,发现模
验、调用。 开源模型chatglm3-6b 平台提供了对应的模型服务API,但是该模型能力有限,只能作为问答模型,不能作为思考模型,首次使用该模型服务API需要订购免费的“ChatGLM3-6B大模型服务API在线调用”资源,订购后即可进行调测/体验、调用,订购操作请参见购买AppStage。
据进行展示,并会在该条节点的左上角标记图标。如果提示“调测失败,请检查接口参数配置是否准确”,请检查并重新配置参数后重试。 表1 起始节点配置参数说明 参数 说明 API请求方式 在下拉列表中可选择以下API请求方式: get:get请求,用于从服务器获取数据,通常使用URL参数传递数据。
务(ACMS)提供的REST API进行的封装,以简化用户的开发工作。 STS SDK封装了业务微服务读取ACMS身份证书、到ACMS-Server上获取密钥、认证凭据、解密敏感数据、微服务间通信认证加密等功能,用户直接调用STS SDK提供的接口函数即可实现使用ACMS业务能力的目的。
管理模型 模型使用指引 基于微调数据集进行模型微调 生成模型服务 调测/体验模型 评测模型 查看模型调用记录 收藏平台资产中心的模型 模型API接入接口规范 如何对平台接入的第三方模型服务设置鉴权
体验Agent 以对话的形式,对创建的Agent或平台资产中心预置的AI应用进行体验调测,以发现并解决Agent接口上的问题和错误。 3 使用Agent 支持通过API接口调用或Web界面访问两种方式使用Agent。 父主题: 管理Agent
Service,简称STS)服务软件开发工具包是对访问凭据管理服务(ACMS)提供的REST API进行的封装,以简化用户的开发工作。用户直接调用SecurityTokenService SDK提供的接口函数即可实现使用ACMS业务能力的目的。 使用STS SDK即可使用运维中心ACMS的
提供hint方式或者是编码式强制某条SQL读取从库或者主库等 √ AI原生应用引擎SDK功能介绍 表5 AI原生应用引擎SDK功能矩阵 接口类型 接口名 函数名 Python 大模型相关接口 文本生成 ModelRouter.chat.completion.create √ 向量生成 ModelRouter
日志处理 介绍SDK提供的日志配置方法以及日志格式。 日志级别配置 日志组件 SDK以SLF接口输出日志,默认使用logback输出日志,引入了logback-core-***.jar和logback-classic-***.jar这两个jar包,SLF会绑定到logback输出日志。
基于SQL配置图表 配置oapdruid、oapclickhouse、oapmppdb、oapinfluxdb、oaptsdb数据源后,可以使用druid、clickhouse等数据源基于SQL配置图表,本章节介绍如何基于SQL配置图表并将图表添加至业务报表中。 前提条件 已完成对于数据源的数据开发。
一些故障问题,暂时无法为您提供服务” 问题现象 图1 Agent报错 解决方法 检查创建Agent时选择的模型是否为模型服务商API,使用模型服务商API时,需要配置模型服务鉴权,新开的租户没有配置模型鉴权,具体操作请参见如何对模型供应商提供的模型服务设置鉴权。 父主题: AI原生应用引擎
角的“记忆 > 变量”,可以查看变量使用效果,修改变量取值可以手动更新Agent记忆信息。 单击“保存”,完成Agent创建。 “我创建的”列表中生成一条Agent记录,Agent状态为“草稿”。 发布Agent Agent发布后,用户即可通过API接口调用或Web界面进行访问。
将已有模型部署为模型服务 模型需要部署成功后才可正式提供模型服务。部署成功后,可以对模型服务进行模型调测,并支持在创建Agent时使用或通过模型调用接口调用。 本文介绍如何将微调后的模型或部分平台资产中心的模型部署为模型服务。 前提条件 已购买推理单元资源,具体购买方法请参见购买AI原生应用引擎包年包月资源。
│ │ UserLoginApi.java ----接口api定义 │ │ │ │ │
"stsInstanceId is empty, cloudMapId is xxx" "no sts instance id found for cloudMapId : xxx" "stsInstanceId is empty, cloudMapId: xxx" 一方地址未在Cloud Map注册
"stsInstanceId is empty, cloudMapId is xxx" "no sts instance id found for cloudMapId : xxx" "stsInstanceId is empty, cloudMapId: xxx" 一方地址未在Cloud Map注册