检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
TRUNCATE_MODE(如果分片的token长度超过向量化模型的token数,则知识库向量化失败)。 SMART_MODE(如果分片的token长度超过向量化模型的token数,则自动对超长部分进行截断处理)。 DEFAULT_MODE(如果分片的token长度超过向量化模型的token数,则大模型对
状态码 状态码如表1所示 表1 状态码 状态码 编码 错误码说明 100 Continue 继续请求。 这个临时响应用来通知客户端,它的部分请求已经被服务器接收,且仍未被拒绝。 101 Switching Protocols 切换协议。只能切换到更高级的协议。 例如,切换到HTTP的新版本协议。
必填项,单击“获取API key”跳转至AI原生应用引擎的“凭证管理 > 我的凭证”页面,在“平台API Key”页签获取,具体介绍请参见创建API Key。 单击“保存”,创建实例成功。 节点备注 输入节点备注信息,方便后续查阅节点功能。 父主题: 工作流基础节点说明
操作步骤 在AI原生应用引擎左侧导航栏选择“凭证管理 > 模型鉴权设置”。 在“模型供应商列表”页面,单击模型供应商卡片上“设置鉴权”,针对不同的模型服务设置相应鉴权信息。 具体鉴权信息需根据界面提示前往模型供应商官网进行申请。 父主题: 管理模型
选择要调测的模型服务,在下拉列表可选: 模型服务商API(平台接入的第三方模型服务) 预置模型API(平台预置的开源模型) 我的模型API(我部署的、我接入的) 我的路由策略 输出方式 可选非流式、流式。二者区别如下: 非流式:调用大语言模型推理服务时,根据用户问题,获取大语言模型的回答,大语言模型完整生成回答后一次性返回。
大模型微调服务API在线调用-SFT局部调优 根据实际输入和输出tokens总量计费,平台提供算力支持。 计费周期 API在线调用按需计费按token数量计费,与周期无关。 计费示例 以调用次数计费模式为例,假设您在2023/10/18 10:58:00购买了大模型微调服务API在线调用
创建工具时,对于复杂的API服务,每个API都需要手动添加和配置,会导致操作量大且容易出错。平台提供了导入OpenAPI文件的功能,以减少手动创建工具的工作量。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 已获取API服务的json文件。
auth、BasicAuth、Token。 No auth:Restful API不对SVE进行鉴权。 BasicAuth:Restful API会对SVE进行BasicAuth认证,此时,还需要填写鉴权用户名和密码。 Token:Token方式,会自动获取当前登录运营中心的用户对应的Token。 AK/SK:Restful
版本变更记录 表1 版本变更记录 版本 变更类型 说明 0.0.1 - 第一次发布。 父主题: AI原生应用引擎SDK API
PromptTemplate KnowledgeRetriever ApplicationCenter 父主题: AI原生应用引擎SDK API
url is https://xxxxx, path is /v1/chat/completions 父主题: AI原生应用引擎SDK API
调用修改知识库召回状态接口启用知识库。 将创建接口响应内容保存起来,该内容为知识库id: { "data" : "3f28e62-xxxxxxxx-a15be0d638a2" } 步骤五:查询知识库创建结果 调用查询知识库最新执行记录接口查询创建结果。该接口所需的知识库id为步骤四:创建知识库返回的内容。
httpx.client False 自定义的httpx client。 kwargs - False 其他可选参数,如api_key、timeout等。 接口调用 KnowledgeRetriever.retrieve 检索知识库数据,根据用户提供的检索信息,返回命中的信息数据。
自创建的工具:工具是API的代理或容器,用户可以将常用API封装为工具。在创建工具时,需要先将选定的API服务注册为一个工具,然后再添加该服务下的API作为工具的执行动作。具体介绍请参见创建工具。 在工作流中首次调用我的工具类的节点需要新增实例,实例是工具的鉴权方式,如果未新增实例,工具就无法调通。
http_client httpx.client False 自定义的httpx client。 kwargs - False 其他可选参数,如api_key、timeout等。 父主题: modules模块
储能力。 AK 访问密钥ID(Access Key ID),华为云通过AK识别用户的身份,通过SK对请求数据进行签名验证,用于确保请求的机密性、完整性和请求者身份的正确性。 SK 秘密访问密钥(Secret Access Key),华为云通过AK识别用户的身份,通过SK对请求数据
ChatGLM3-6B大模型服务API在线调用 根据实际输入和输出tokens总量计费,平台提供算力支持。 按需计费 千tokens * 每千tokens单价 大模型微调服务API在线调用-SFT局部调优 根据实际输入和输出tokens总量计费,平台提供算力支持。 按需计费 千tokens * 每千tokens单价
│ │ UserLoginApi.java ----接口api定义 │ │ │ │ │
partial_variable dict False 格式化模板的部分变量 validate_template bool False 是否尝试验证模板 接口调用 PromptTemplate.from_template 初始化提示语模板,支持两种占位符格式以及部分变量值的预先填入。 参数说明 表2
AIOPSCONFIG_AIOPSTOKENURI: format: sensitive records: AIOPSCONFIG_AIOPSSERVER: 'https://XX.XX.XX.XX:XXXX/' AIOPSCONFIG_AIOPSTOKENURI: openapi/XXX/XXX/