检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
敏感数据。 为集群主机添加标签 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 弹性资源服务(ERS)”。 选择左侧导航栏的“集群列表”。 在集群列表单击集群名称,进入集群详情页面。 选择左侧导航栏的“主机列表”。 单击待添加标签主机所在行“操作”列的“更多
Key”对话框中的输入框设置API Key名称,用以区分API Key。 4.在弹出的下载窗口中单击“立即下载”,将API Key下载到本地查看。 5.为API Key添加“Bearer”前缀,得到标准鉴权信息(格式为:Bearer sk-xxxx)。 表2 请求Body参数 参数 是否必选 参数类型 描述 input
将已有模型部署为模型服务 模型需要部署成功后才可正式提供模型服务。部署成功后,可以对模型服务进行模型调测,并支持在创建Agent时使用或通过模型调用接口调用。 本文介绍如何将微调后的模型或部分平台预置的模型部署为模型服务。 前提条件 已购买推理单元资源,具体购买方法请参见购买AI原生应用引擎包年包月资源。
模型调测时,无法选择模型服务商API是什么原因? 对模型服务商API调测前,需要先设置鉴权,具体操作请参见如何对模型供应商提供的模型服务设置鉴权。 父主题: AI原生应用引擎
如何通过调用Agent API将变量传递到工作流? 创建Agent时配置变量,如图1所示,具体操作请参见创建并发布Agent。 图1 配置变量 在配置工作流时,选择引入变量,根据Agent中定义的变量类型(一般变量或敏感变量)来设置工作流的入参,如图2所示,具体操作请参见创建工作流。
对创建的提示语进行优化 提示语优化是针对提示语进行结构、排版、内容等维度进行优化和改进,将大模型的输入限定在了一个特定的范围之中,进而更好地控制模型的输出。通过提供清晰和具体的指令,引导模型输出并生成高相关、高准确且高质量的文本对答内容,属于自然语言处理领域突破的重要技术,可以提
自接入的模型在模型调测的时候报错是什么原因? 接入第三方模型服务时,填写的模型名称必须为该模型的模型ID/模型编码(登录第三方模型厂商官网查看),例如:Baichuan4、deepseek-chat、glm-4-air,如图1所示,否则会导致模型不可用。 图1 接入模型服务 父主题:
工作流已启用,为什么在创建Agent时仍然无法选用? 创建Agent(工作流模式)时,所选工作流的起始节点必须引入用户对话输入,包含默认的WISEAGENT_USER_INPUT参数,如图1所示,表示在Agent调用工作流时,以用户在问答对话中输入的内容作为工作流的请求参数。不满足要求的工作流无法选用。
对于包年/包月的服务资源,用户已经预先支付了资源费用,因此在账户出现欠费的情况下,已有的包年/包月资源仍可正常使用。然而,对于涉及费用的操作,如添加超出开发中心用户数配额的用户、新创建实例、续费订单等,用户将无法正常进行,请按时进行续费。 按需计费 当您的账号因按需AI原生应用引擎所需
账号列表”中查看创建CES指标采集时使用账号的纳管方式是“AK-SK”还是“授权委托”,并查看对应的“IAM用户名”或者“授权委托名”。 添加权限。 “AK-SK”方式:确认IAM用户所属用户组,并为用户组授权,具体操作请参见用户组授权。 “授权委托”方式:修改委托权限,增加所需的权限,具体操作请参见修改委托。
新增AK/SK访问密钥 AK/SK访问密钥是每个用户单独的身份认证,是个人调用应用接口的依据,必须妥善保管。租户创建Agent在调用平台接口时需要进行平台鉴权认证,可以使用“AK/SK访问密钥”进行平台的鉴权认证。 前提条件 需要具备AI原生应用引擎管理员权限,权限申请操作请参见AppStage组织成员申请权限。
工作流中工具节点的实例如何配置? 工具节点实例需要填写工具创建时所配置的鉴权信息。 三方厂商的工具API,请到工具对应官网获取鉴权信息。 自创建工具请填写工具创建时所配置的鉴权信息。 如果调用其他租户或资源相互隔离的部门所上架的工具,请在AI原生应用引擎中,选择左侧导航栏的“资产
选择微服务,对微服务下所有接口的请求总数进行限制。 资源名称 资源标识名称,用于后续添加规则。 字符长度0~50,可以由字母、数字、下划线、短横线组成,不包含特殊字符。 微服务名称 填写需要进行流控的微服务业务名称。 支持添加多个,使用英文逗号分隔,不允许存在中文及空格。 接口资源 表2 接口资源参数说明
选择微服务,对微服务下所有接口的请求总数进行限制。 资源名称 资源标识名称,用于后续添加规则。 字符长度0~50,可以由字母、数字、下划线、短横线组成,不包含特殊字符。 微服务名称 填写需要进行流控的微服务业务名称。 支持添加多个,使用英文逗号分隔,不允许存在中文及空格。 接口资源 表2 接口资源参数说明
创建路由策略用于提供模型服务 通过配置路由策略,可以实现模型故障自动切换能力,当模型A因故障等原因无法正常工作时,可以自动切换为另一个可用的模型提供服务,从而提高模型服务的稳定性和可用性。 路由策略创建完成后,可以进行模型调测,并支持在创建Agent时使用或通过模型调用接口调用。
如何对模型供应商提供的模型服务设置鉴权 租户对模型供应商提供的模型服务调测前需设置鉴权。 前提条件 需要具备AI原生应用引擎管理员权限,权限申请操作请参见AppStage组织成员申请权限。 操作步骤 在AI原生应用引擎左侧导航栏选择“系统管理 > 模型鉴权设置”。 在“模型供应商
模型微调任务一直在等待中是什么原因? 模型微调任务一直在“等待中”状态,表示当前平台资源规格紧张,任务需要进行排队,请耐心等待。 父主题: AI原生应用引擎
are not allowed to use this program (crontab)”,说明该业务用户没有定时任务权限,进行如下命令添加业务用户后保存,一个用户一行: vi /etc/cron.allow 图1 查看权限 定时任务的具体配置。 su 业务用户 crontab
工作流基础节点说明 调用子工作流 数据连接器 LLM 知识库 变量V2 控制 JSON构造器 Code代码 结束 父主题: 管理工作流
步骤四:配置训练模型 在异常检测任务列表,单击任务所在行“操作”列的“模型”。 在模型配置页面,单击主模型后的添加模型,如图1所示,可添加多个模型。 添加后,默认现在该模型“算法配置”页签。 图1 添加模型 在“算法配置”页签,配置算法参数,具体参数如表6所示,配置完成后单击“确定”。 表6 动态阈值算法配置参数说明