检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
管理模型 模型使用指引 基于微调数据集进行模型微调 生成模型服务 调测/体验模型 评测模型 查看模型调用记录 收藏平台资产中心的模型 模型API接入接口规范 如何对平台接入的第三方模型服务设置鉴权
logPath:推送日志路径(非文件名),选填。 AIOps固定为'/opt/huawei/logs' limitSize: 日志存储限制,选填,默认值为100G。仅AIOps生效。 groups:日志配置组名,必填。当前BI场景支持1个或多个分组,AIOps场景有且只能填写一个分组并且提前在AIOps管理面创建好。
开源模型怎么部署? 开源模型的部署需要购买推理单元,具体操作如下: 在AI原生应用引擎的左侧导航栏选择“资产中心”,选择“大模型”页签。 将鼠标光标移至待部署的开源模型卡片上,单击“部署”。 在“创建部署服务”页面,可以查看到需要几个推理单元,单击“购买推理单元资源”。 图1 创建部署服务
填写工具功能或作用等描述。 图标 支持选择系统图标。 协议 API服务接口通信协议。 https http 主机地址 提供API服务的服务器地址。以https://aiae.appstage.myhuaweicloud.com/v1/chat/completions为例,主机地址为aiae.appstage
组件,满足差异化需求。 AI原生应用引擎 提供AI原生应用开发引擎,包括RAG、Agent等应用框架,零码态和全码态的开发形态,降低AI原生应用开发门槛、提升开发效率。支持客户打通自己的业务能力API,将大模型的能力结合进入自己的业务链路。 提供支撑AI原生应用运行的整套模型工具
管理提示语 创建提示语 对创建的提示语进行优化 管理资产中心预置提示语
试结果。 针对推理结果,用户可通过以下操作对提示语进行结构、排版、内容等维度进行优化和改进。 单击“执行优化”,系统将对提示语模板进行首次优化。 单击“重新优化”,系统将对提示语模板进行多轮优化。 提示语内容优化达到需要结果后,单击“采纳”可将最终优化的提示语内容一键覆盖至提示语
enAPI文件的功能,以减少手动创建工具的工作量。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 已获取API服务的json文件。 创建工具 在AI原生应用引擎的左侧导航栏选择“Agent编排中心 > 我的工具”。 在我的工具页面,单击“导入工具”。
创建的Agent(工作流模式)时,用户与工作流进行对话,每次对话都会调用工作流。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 创建工作流 在AI原生应用引擎的左侧导航栏,选择“Agent编排中心 > 我的工作流”。 在“我的工作流”页面,单击“创建工作流”。
实例化参数 参数名 参数类型 是否必选 参数描述 base_url str False 模型网关开放的ip和端口,有默认值可以不填。功能类似OpenAI的base_url。 custom_hearders dict False 其他自定义请求头信息。 http_client httpx.client
需要新增实例,请参考新增平台API Key获取AI原生应用引擎平台API Key。 本实践选用资产中心预置的第三方模型glm-4作为旅游规划模型,请参考如何对模型供应商提供的模型服务设置鉴权设置模型鉴权。 构建旅游规划工作流 在AI原生应用引擎的左侧导航栏,选择“Agent编排中心
工具的执行动作ID。 进入AI原生应用引擎,在左侧导航栏选择“Agent编排中心 > 我的工具”,在工具列表中复制执行动作ID。 body dict True 请求体。 结构与工具的执行动作的配置相关,并且所有请求头中的入参与请求参数均添加至请求体中,由AI原生应用引擎自动完成分配
构建知识库 创建知识数据集 创建知识库 创建知识检索流
28e7241e42904334b failed 问题现象 SLB部署失败,日志详细信息提示如下: 2024-01-27 03:24:00 job 28e7241e42904334b start running.2024-01-27 03:24:05 job 28e7241e42904334b failed 解决方法
gent中调用知识检索流,可以提升用户体验和Agent响应质量。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 创建知识检索流 在AI原生应用引擎的左侧导航栏选择“知识中心 > 知识检索流”,单击“创建知识检索流”。
通过异常检测上报告警 AIOps的异常检测基于运维领域的数据的历史特征,对其未来的走向进行预测。一旦当前实际数据和预测值偏差到一定程度,则认为发生异常,会生成告警并上报至告警系统。 在AIOPS中,异常检测算法分为两种,固定阈值和动态阈值。 固定阈值就是简单设置上限或者下限值。一
thData参数的示例,无需修改。 ④:函数定义和注释,extractRequestParam函数和handler函数是系统预置的模板代码,无需修改。 ⑤:系统方法,无需修改。 ⑥:用户自定义函数中的逻辑。 图1 源码编辑区 父主题: 工作流基础节点说明
对于其他租户上架的工具,其他租户或资源相互隔离的部门使用前需收藏并配置鉴权,具体介绍请参见收藏上架的工具及调用资产中心工具前设置认证鉴权。 父主题: AI原生应用引擎
实例化参数 参数名 参数类型 是否必选 参数描述 base_url str False 模型网关开放的ip和端口,有默认值可以不填。功能类似OpenAI的base_url。 custom_hearders dict False 其他自定义请求头信息。 http_client httpx.client
Agent编排使用指引 操作指引 图1 AI原生应用引擎使用流程 表1 编排Agent的流程详解 序号 流程环节 说明 1 创建及发布Agent 一站式创建专属Agent,并将应用程序及相关组件进行发布,使其能够正常运行。当前支持创建LLM模式和工作流模式两种类型的Agent。