检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
快速开始 下载AI原生应用引擎SDK AI原生应用引擎SDK获取地址:wiseagent-dev-sdk-python。您也可以参考下载SDK获取AI原生应用引擎SDK并进行完整性校验。 AI原生应用引擎SDK获取方法请参考。
ERROR - fail to load 问题现象 judge日志中出现ERROR - fail to load错误提示,如下图 可能原因 日志中提示加载模型失败,可能是因为容器在启动时加载模型失败。
父主题: AI原生应用引擎SDK API
父主题: AI原生应用引擎
以https://aiae.appstage.myhuaweicloud.com/v1/chat/completions为例,主机地址为aiae.appstage.myhuaweicloud.com。 基准URL 即Base URL,域名的根路径,默认为/。
模型API接入之前,请确保符合相对应的接口规范,其中Chat接口和Embeddings接口需要符合OpenAI接口规范,Rerank接口需要符合AI引擎标准协议。
父主题: AI原生应用引擎SDK API
500 AIAE.31001004 Ai security governance service error, please try again later or disable ai security governance service!
父主题: AI原生应用引擎
取值范围: 传入数量0~5个,需为以下标签:航空、语音转文本、电力、文本、城市数字化、文案生成、水运、1M-10M、NL2SQL、全功能、公路交通、银行业务、制造、数字基础设施、高质量数据(训练)、英文、流媒体、图像理解、托管服务、政府、医疗、>100M、文本向量化、文本生图、城市交通
前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 创建知识检索流 在AI原生应用引擎的左侧导航栏选择“知识中心 > 知识检索流”,单击“创建知识检索流”。 在“基本信息”弹窗,设置检索流名称、描述,单击“确认”。
前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 创建API Key 在AI原生应用引擎的左侧导航栏选择“凭证管理 > 我的凭证”。 在“我的凭证”页面,选择“平台API Key”页签,单击“新增平台API Key”。
表1 模型信息参数说明 参数名称 参数说明 模型名称 填写的模型名称必须为该模型的模型ID/模型编码(登录第三方模型厂商官网查看),例如:Baichuan4、deepseek-chat、glm-4-air,否则会导致模型不可用。
父主题: AI原生应用引擎
父主题: AI原生应用引擎
前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 收藏其他租户上架的工具 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“工具”页签。
AI原生应用引擎用于大模型微调的数据集任务领域为“自然语言处理”、数据集格式为“对话文本”。
AIOps固定为'/opt/huawei/logs' limitSize: 日志存储限制,选填,默认值为100G。仅AIOps生效。 groups:日志配置组名,必填。当前BI场景支持1个或多个分组,AIOps场景有且只能填写一个分组并且提前在AIOps管理面创建好。
ModelRouter ModelRouter提供了AI原生应用引擎模型网关的接口,可以访问AI原生应用引擎上的模型,接口调用类似OpenAI。
PromptTemplate PromptTemplate提供了提示语编写与组装的能力,目前支持f-string和jinja两种形式的模板。 导入PromptTemplate from wiseagent_dev_sdk_python.modules.prompt import PromptTemplate