检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
应用指标摸板库生成指标运行失败 问题描述 应用指标摸板库生成指标时,提示运行失败。 处理方法 检查选择的数据源和应用的模型是否匹配。模型对选择的数据是有要求的,数据源和模型之间不匹配,将导致指标运行失败。 父主题: 运营中心
Code代码节点的输入输出参数如何与其他节点进行交互和传递? 输入:按照函数定义中指定的参数列表配置入参,即传递给函数的实际值。支持输入参数或选择前序节点的输出作为输入。 图1 Code代码节点输入 输出:Python代码的函数中定义的每个变量都可在后置节点中引用。 图2 Code代码节点输出 父主题: AI原生应用引擎
新建模型失败 问题描述 新建数据模型时,提示保存失败。 处理方法 检查数据模型度量数据的“聚合类型”函数设置是否合理,比如“聚合类型”设置为求和“sum”函数,这种情况会导致数据建模保存报错。 父主题: 运营中心
以实现特定的任务,如图1所示,具体介绍请参见Code代码。 图1 Code代码节点配置 时间格式转换代码示例: # -*- coding:utf-8 -*- import json import base64 import datetime """ 公共函数使用方法示例 import
生成模型服务 将已有模型部署为模型服务 接入模型服务 创建路由策略用于提供模型服务 父主题: 管理模型
单击:可以直接在弹出的“创建函数”页面快速创建函数,参数说明如表2所示,参数配置完成后可单击“创建”保存函数。 单击:选择函数后,单击该图标可以在弹出的“编辑函数”页面中快速编辑函数,参数编辑完成后可单击“更新”保存函数。 单击:创建或编辑函数后,单击该图标,可刷新下拉列表中的函数列表。 单击:选择函数后,单击该图标可快速复制函数。
产品与服务 > 产品管理”。 在左侧导航栏选择“产品视图”,在产品视图列表中,可依次展开根部门下的各子部门、产品、服务、微服务的层级结构,如产品视图所示,在“操作”列可执行的操作,如表1所示。 图1 产品视图 表1 产品视图列表支持的操作 分类 支持的操作 说明 产品 创建产品
base之间资源是完全隔离的(除部分共享对象之外)。每个Database都是一个独立的命名空间,用于存储和管理相关的数据库对象,如表、视图、函数等。Schema与Database在概念上非常接近,通常可以认为一个Database只包含一个Schema,且这个Schema的名称与D
String 参数解释: 函数名称。 约束限制: 只能包含a-z,A-Z,0-9,下划线和中横线,最大长度限制为64。 取值范围: 不涉及。 默认取值: 不涉及。 description 否 String 参数解释: 用于描述函数功能。 模型会根据这段描述决定函数调用方式。 约束限制:
base之间资源是完全隔离的(除部分共享对象之外)。每个Database都是一个独立的命名空间,用于存储和管理相关的数据库对象,如表、视图、函数等。Schema与Database在概念上非常接近,通常可以认为一个Database只包含一个Schema,且这个Schema的名称与D
非流式:调用大语言模型推理服务时,根据用户问题,获取大语言模型的回答,大语言模型完整生成回答后一次性返回。 流式:调用大语言模型推理服务时,根据用户问题,获取大语言模型的回答,逐个字词的快速返回模式,不需等待大语言模型生成完成。 输出最大token数 表示模型输出的最大长度。 温度 较高的数值
软件包 软件包一般用于虚拟机部署使用,其中包括有软件包(虚拟机部署使用),测试用例包,函数包(函数部署使用)。 文件名 文件名后缀只支持zip。 文件名只允许包含英文、数字、“-”、 “_”、“()”、“ . ”、空格,最大长度不超过200。 以上符号是英文符号,不支持中文符号。
只有部署完成的,状态为“运行中”的模型服务才能进行模型调测。 在“我部署的”模型服务列表中,单击操作列的“模型调测”。 参照调测模型的步骤,完成模型测试。 父主题: 生成模型服务
String 函数名称,只能包含a-z、A-Z、0-9、下划线和中横线。最大长度限制为64个字符。 description 否 String 用于描述函数功能。 模型会根据这段描述决定函数调用方式。 parameters 否 Object Json Schema对象,用于定义函数所接受的参数。
非流式:调用大语言模型推理服务时,根据用户问题,获取大语言模型的回答,大语言模型完整生成回答后一次性返回。 流式:调用大语言模型推理服务时,根据用户问题,获取大语言模型的回答,逐个字词的快速返回模式,不需等待大语言模型生成完成。 输出最大token数 简称max_tokens,表示模型输出的最大长度。
灰度路由引擎 选择灰度路由引擎。 微服务 SLB(>1.3.11) DMQ 分布式JOB 函数 注册中心 选择注册中心。 单击“保存”,在弹出的对话框中单击“确定”。 在灰度服务列表中会生成一条记录,当前状态为“待配置”。 更多操作 表2 相关操作 参数 说明 删除灰度服务 选择灰度服务列表操作列的“更多
灰度路由引擎 选择灰度路由引擎。 微服务 SLB(>1.3.11) DMQ 分布式JOB 函数 注册中心 选择注册中心。 单击“保存”,在弹出的对话框中单击“确定”。 在灰度服务列表中会生成一条记录,当前状态为“待配置”。 更多操作 表2 相关操作 参数 说明 删除灰度服务 选择灰度服务列表操作列的“更多
接口名 函数名 Python 大模型相关接口 文本生成 ModelRouter.chat.completion.create √ 向量生成 ModelRouter.embeddings.create √ 文生图 ModelRouter.images.generate √ 图生文 ModelRouter
应的云服务。 一键生成指标。 单击“一键生成”,如图2所示。 图2 一键生成指标 查看CES一键生成内容。 在ClickHouse页面会自动生成一个保存CES数据的ClickHouse表,其中ulanqabservice002为服务英文名称,如所示。 会自动生成并启动ClickHouse导流任务,将Kafka
SDK封装了业务微服务读取ACMS身份证书、到ACMS-Server上获取密钥、认证凭据、解密敏感数据、微服务间通信认证加密等功能,用户直接调用STS SDK提供的接口函数即可实现使用ACMS业务能力的目的。 父主题: STS SDK