检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
) failed 问题现象 配置同步失败,日志详细信息提示如下: " test nginx: nginx: [alert] mmap(MAP_ANON|MAP_SHARED, 524288000) failed (12: Cannot allocate memory) nginx:
图1 调用方式 父主题: AI原生应用引擎
PromptTemplate PromptTemplate提供了提示语编写与组装的能力,目前支持f-string和jinja两种形式的模板。 导入PromptTemplate from wiseagent_dev_sdk_python.modules.prompt import PromptTemplate
功能类似OpenAI的base_url。 custom_hearders dict False 其他自定义请求头信息。 http_client httpx.client False 自定义的httpx client。
需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 创建知识数据集 在AI原生应用引擎的左侧导航栏选择“知识中心 > 知识库”。 选择页面右上角的“ > 知识数据集”。 单击“创建知识数据集”,参照表1进行相关参数的配置。
父主题: Rainbow SDK
父主题: AI原生应用引擎
进入AI原生应用引擎,在左侧导航栏选择“Agent编排中心 > 我的工具”,在工具列表中复制执行动作ID。 body dict True 请求体。 结构与工具的执行动作的配置相关,并且所有请求头中的入参与请求参数均添加至请求体中,由AI原生应用引擎自动完成分配。
优化提示语 在AI原生应用引擎的左侧导航栏选择“知识中心 > 提示语”,选择“我创建的”页签。 在提示语列表中,单击操作列的“优化”,参照表1进行参数配置。 表1 在线优化提示语参数说明 参数名称 参数说明 变量标识符 可选择以下符号标识提示语内容中的变量。
前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 创建工作流 在AI原生应用引擎的左侧导航栏,选择“Agent编排中心 > 我的工作流”。 在“我的工作流”页面,单击“创建工作流”。
我的工具类:包含AI原生应用引擎资产中心预置的三方工具以及自创建的工具。 资产中心预置的三方工具:在AI原生应用引擎的左侧导航栏选择“资产中心” ,选择“工具”页签,单击工具卡片,在工具详情页面可以查看工具描述、执行动作、参数配置等信息。
如果调用其他租户或资源相互隔离的部门所上架的工具,请在AI原生应用引擎中,选择左侧导航栏的“资产中心”,选择“工具”页签,单击工具卡片上的“设置鉴权”,查看工具鉴权获取方式,如图1所示。 图1 设置鉴权信息 父主题: AI原生应用引擎
基于微调数据集进行模型微调 创建微调数据集 收藏预置微调数据集 对微调数据集进行数据标注 创建模型微调任务 父主题: 管理模型
接入第三方模型服务时,填写的模型名称必须为该模型的模型ID/模型编码(登录第三方模型厂商官网查看),例如:Baichuan4、deepseek-chat、glm-4-air,如图1所示,否则会导致模型不可用。 图1 接入模型服务 父主题: AI原生应用引擎
前提条件 已购买推理单元资源,具体购买方法请参见购买AI原生应用引擎包年包月资源。 由于在线运行需消耗资源,请确保账户有可用资源,且用户费用状态正常。 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。
前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 上架工具 在AI原生应用引擎的左侧导航栏选择“Agent编排中心 > 我的工具”。 在我的工具列表中,选择操作列的“更多 > 申请上架”。 配置上架信息,参数如表1所示。
父主题: AI原生应用引擎
设置鉴权信息 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“工具”页签。 鼠标光标移至工具卡片上,单击“设置鉴权”。 在“设置鉴权信息”弹框中,输入鉴权信息,单击“保存”。
AI模型 在“模型A”下拉框中选择模型。 单击“+ AI模型”,还可以增加2个AI模型。 路由策略提供模型服务时,模型调用顺序为:模型A > 模型B > 模型C,当模型A无法正常工作时,可以自动依次切换为模型B、模型C。
图1 引入用户对话输入 父主题: AI原生应用引擎