检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
对于华为或者第三方运营的商业化模型服务,支持通过API接入到AI原生应用引擎。模型运营方负责模型能力及技术支持,租户自行在模型运营方订购服务,或者通过云市场订购模型服务后,在AI原生应用引擎创建平台API Key,即可通过AI原生应用引擎平台调用模型接口。 前提条件 需要具备AI原生应用引擎管理员权限,权限申
每个租户最多只能拥有两个访问密钥。 创建AK/SK访问密钥 在AI原生应用引擎的左侧导航栏选择“系统管理 > 平台租户鉴权”。 在“平台租户鉴权”页面,选择“AK/SK访问密钥”页签。 单击“新增访问密钥”,在“新增访问密钥”对话框,输入描述,单击“确定”。 为了保证历史兼容性,系统会使用访问密钥创建时间作为初始值。
进行调测。 前提条件 对模型服务商提供的模型进行调测,需要先设置鉴权,具体操作请参见如何对模型供应商提供的模型服务设置鉴权。 调测模型 在AI原生应用引擎的左侧导航栏选择“模型中心 > 模型调测”。 对于平台预置的模型以及模型服务商提供的模型,也可以在左侧导航栏单击“资产中心”,
试结果。 针对推理结果,用户可通过以下操作对提示语进行结构、排版、内容等维度进行优化和改进。 单击“执行优化”,系统将对提示语模板进行首次优化。 单击“重新优化”,系统将对提示语模板进行多轮优化。 提示语内容优化达到需要结果后,单击“采纳”可将最终优化的提示语内容一键覆盖至提示语
权限。 系统内置组织成员角色和权限 AppStage系统内置的组织成员角色和权限如表2所示。 表2 系统内置组织成员岗位/角色 子系统 岗位/角色 级别 岗位/角色描述 可管理的下级岗位/角色 申请加入时审批者岗位/角色 应用平台系统级 组织管理员(非租户开通者) 系统级 具备A
提供自助式云原生工具和技术的平台,开发人员可以使用这些工具和技术来构建、测试、部署、监控或执行与应用程序开发和交付有关的几乎任何事情,同时尽可能减少开销,提升用户的体验和效率。 提供AI原生应用开发引擎,包括RAG、Agent等应用框架,零码态和全码态的开发形态,降低AI原生应用开发门槛、提升开发效率。支持客户打通自
的工具,需要先收藏到“我的工具”列表中,方可便捷地进行使用。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 收藏其他租户上架的工具 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“工具”页签。
实例化参数 参数名 参数类型 是否必选 参数描述 base_url str False 模型网关开放的ip和端口,有默认值可以不填。功能类似OpenAI的base_url。 custom_hearders dict False 其他自定义请求头信息。 http_client httpx.client
28e7241e42904334b failed 问题现象 SLB部署失败,日志详细信息提示如下: 2024-01-27 03:24:00 job 28e7241e42904334b start running.2024-01-27 03:24:05 job 28e7241e42904334b failed 解决方法
upstream "后端服务器名称" in /.../server...conf:17 nginx: .../nginx.conf test failed [FAILED 问题现象 配置同步失败,日志详细信息提示如下: "test nginx: nginx: [emerg] host not found
logPath:推送日志路径(非文件名),选填。 AIOps固定为'/opt/huawei/logs' limitSize: 日志存储限制,选填,默认值为100G。仅AIOps生效。 groups:日志配置组名,必填。当前BI场景支持1个或多个分组,AIOps场景有且只能填写一个分组并且提前在AIOps管理面创建好。
使用AppStage开发中心知识库管理团队文档 AppStage开发中心知识库是面向开发团队的知识管理系统,支持知识全生命周期管理,帮助您完成智能、安全的知识作业,提供层级式的目录树、多人在线协同编辑等功能。 目前此功能仅支持白名单用户通过提交工单申请使用。详细操作请参考提交工单。
之后,当起始节点的事件发生,后续动作即可自动执行。AI原生应用引擎通过将传统工具API和大模型编排在一起实现复杂的工作流。 在开发过程中,工作流可在用户创建Agent时调用,有效提高Agent开发的效率。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。
通过异常检测上报告警 AIOps的异常检测基于运维领域的数据的历史特征,对其未来的走向进行预测。一旦当前实际数据和预测值偏差到一定程度,则认为发生异常,会生成告警并上报至告警系统。 在AIOPS中,异常检测算法分为两种,固定阈值和动态阈值。 固定阈值就是简单设置上限或者下限值。一
mmap(MAP_ANON|MAP_SHARED, 524288000) failed (12: Cannot allocate memory) nginx: [alert] munmap(FFFFFFFFFFFFFFFF, 524288000) failed 问题现象 配置同步失败,日志详细信息提示如下:
[Service proxy.apply_sudo._wrapped_f]: fail to operator sudo,message: send request fail, status code: 400, error: None, message: illegal param\"
使用的模型收藏后,可便捷地在收藏列表中进行部署、微调、体验。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 收藏平台资产中心的模型 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“大模型”页签。
体鉴权信息则需根据界面提示前往模型供应商官网进行申请。 前提条件 需要具备AI原生应用引擎管理员权限,权限申请操作请参见AppStage组织成员申请权限。 操作步骤 在AI原生应用引擎左侧导航栏选择“系统管理 > 模型鉴权设置”。 在“模型供应商列表”页面,单击模型供应商卡片上“
管理资产中心预置提示语 提示语是给大模型的指令,它可以是一个问题、一段文字描述,也可以是带有一系列参数的文字描述。 AI原生应用引擎资产中心预置了多款提示语模板,这些模板是基于大量应用场景下的经验或者训练语料而总结出一些优质的提示语组成结构,将其抽离成为一种模板,支持测试、一键快
PromptTemplate 导入PromptTemplate from wiseagent_dev_sdk_python.modules.prompt import PromptTemplate PromptTemplate提供了提示语编写与组装的能力,目前支持f-string和jinja两种形式的模板。