检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
应用示例 与文本对话模型进行交互 场景描述 提供用户与模型进行对话的能力,用户将文本内容写入到content中,选择填写合适的文本对话模型,与模型进行交互。其中环境变量WISEAGENT_API_KEY填写AI原生应用引擎的平台API KEY,该值用于鉴权,为必填。返回结果存在r
管理工具 创建工具 导入工具 将创建的工具上架到资产中心 收藏上架的工具 调用资产中心工具前设置认证鉴权
管理我的凭证 创建AK/SK访问密钥 创建API Key
面。 在版本详情页面的“版本持续交付”区域,选择“持续开发 > 版本基线化”。 在“版本基线化”页面,单击“添加基线化软件包”(最多可添加20个基线化软件包),弹出“添加基线化软件包”页面。 在“选择流水线”下拉列表选择流水线,确认最近一次发布构建信息。 单击右下角“基线化”。开
面。 在版本详情页面的“版本持续交付”区域,选择“持续开发 > 版本基线化”。 在“版本基线化”页面,单击“添加基线化软件包”(最多可添加20个基线化软件包),弹出“添加基线化软件包”页面。 在“选择流水线”下拉列表选择流水线,确认最近一次发布构建信息。 单击右下角“基线化”。开
参数 是否必选 参数类型 描述 Authorization 是 String 参数解释: 鉴权信息。获取平台API Key,并为API Key添加前缀Bearer,得到标准鉴权信息,例如Bearer sk-74e4157***。API Key获取方法请参见创建API Key。 约束限制:
参数名称 参数说明 自定义字段 勾选需要接入的日志字段,包括通用字段、容器字段和虚机字段。 新增自定义环境变量 如需添加自定义环境变量,请选择环境变量名,然后单击“添加”。虚机暂无可选自定义环境变量。 清洗规则 选择日志清洗规则。 请优先使用算子清洗模式采样,通过配置解析脚本将原始
protocol-login.oauth.clientSecret,org.app.jwt-key 启动敏感配置项自动解密。 在微服务的启动类中添加@EnableStsEncryptableProperties注解。 父主题: 管理敏感配置
模型使用指引 操作指引 图1 模型使用操作指引 表1 模型使用流程详解 序号 流程环节 说明 1 基于微调数据集进行模型微调 创建微调数据集 收藏预置微调数据集 对于需要个性化定制模型或者在特定任务上追求更高性能表现的场景,往往需要对大语言模型进行模型微调以适应特定任务。微调数据
日志处理 日志级别配置 日志级别通过环境变量WISEAGENT_LOG配置: import os os.environ["WISEAGENT_LOG"] = "INFO" # 配置日志级别为INFO 日志级别默认为WARNING,支持配置为DEBUG、INFO。 日志格式 日志格式:
创建提示语 平台在资产中心预置了提示语模板,同时也支持用户根据需求自定义创建提示语。在模型调测时引用创建的提示语模板,可以快速推进引导对话的发展,或者增加故事的复杂性和深度。大模型会基于提示语所提供的信息,生成对应的文本或者图片。 前提条件 需要具备AI原生应用引擎管理员或开发者
平台有没有预置模型? 平台预置的开源模型 开源模型Qwen系列、deepseek-coder系列等 请参考将已有模型部署为模型服务进行部署,部署后即可进行调测/体验、调用。 开源模型chatglm3-6b 平台提供了对应的模型服务API,但是该模型能力有限,只能作为问答模型,不能
SDK概述 AI原生应用引擎SDK面向开发者提供了一套搭建原生应用的Python SDK,包含了模型调用,知识获取,工具调用等功能。开发者可以使用SDK调用AI原生应用引擎的各种能力,帮助开发者快速构建大模型应用。 表1 模块说明 序号 模块 功能 1 HttpxClient 负责发送HTTP请求的基类。
敏感数据。 为集群主机添加标签 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 弹性资源服务(ERS)”。 选择左侧导航栏的“集群列表”。 在集群列表单击集群名称,进入集群详情页面。 选择左侧导航栏的“主机列表”。 单击待添加标签主机所在行“操作”列的“更多
生成模型服务 将已有模型部署为模型服务 接入模型服务 创建路由策略用于提供模型服务 父主题: 管理模型
参数 是否必选 参数类型 描述 Authorization 是 String 参数解释: 鉴权信息。获取平台API Key,并为API Key添加前缀Bearer,得到标准鉴权信息,例如Bearer sk-74e4157***。API Key获取方法请参见创建API Key。 约束限制:
protocol-login.oauth.clientSecret,org.app.jwt-key 启动敏感配置项自动解密。 在微服务的启动类中添加@EnableStsEncryptableProperties注解。 父主题: 在ACMS中管理敏感配置
参数 是否必选 参数类型 描述 Authorization 是 String 参数解释: 鉴权信息。获取平台API Key,并为API Key添加前缀Bearer,得到标准鉴权信息,例如Bearer sk-74e4157***。API Key获取方法请参见创建API Key。 约束限制:
查询。 类型 选择数据表类型。 timeSeries:时间序列型数据表,自动添加id字段并以其分布数据,自动添加timestamp字段并以其创建分区。 configuration:配置型数据表,自动添加id字段并以其分布数据,不创建分区。 数据列 单击“新增字段”,新增并设置数据表的数据列,可多次新增。
错误处理 在使用AI原生应用引擎SDK时,当服务端或者SDK端出错时,SDK会返回相应的异常信息,请参见下表进行处理。 状态码 错误码 错误信息 描述 处理措施 200 AIAE.22001001 API调用异常 API调用异常 调用接口url、请求方式错误或出现访问其他用户资源的越权问题,请检查后重试