检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
如果调用其他租户或资源相互隔离的部门所上架的工具,请在AI原生应用引擎中,选择左侧导航栏的“资产中心”,选择“工具”页签,单击工具卡片上的“设置鉴权”,查看工具鉴权获取方式,如图1所示。 图1 设置鉴权信息 父主题: AI原生应用引擎
信息,以便模型可以识别和理解这些对象。在辅助数据标注的方法中,通过训练模型,可以实现标注结果,从而提高数据的质量和准确性。 约束与限制 只有格式为“对话文本”的微调数据集才可进行标注。 调度类型为“一次性调度”的微调数据集才可进行标注。 前提条件 需要具备AI原生应用引擎管理员或
服务下的API作为工具的执行动作。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 已获取API服务的连接信息以及调用API所需的访问权限和密钥。 创建工具 在AI原生应用引擎的左侧导航栏选择“Agent编排中心 > 我的工具”,单击“创建工具”。
管理提示语 创建提示语 对创建的提示语进行优化 管理资产中心预置提示语
约束与限制 仅支持对文本对话类型的模型服务进行评测。 前提条件 评测模型前,请先通过调测/体验模型功能确认模型可用。 创建评测任务 在AI原生应用引擎的左侧导航栏选择“模型中心 > 模型评测”,单击“创建评测任务”。 在“创建评测任务”弹框中选择“通用维度评测”。 在创建评测任务页面,参照表1配置模型信息。
管理我的凭证 创建AK/SK访问密钥 创建API Key
管理工具 创建工具 导入工具 将创建的工具上架到资产中心 收藏上架的工具 调用资产中心工具前设置认证鉴权
logPath:推送日志路径(非文件名),选填。 AIOps固定为'/opt/huawei/logs' limitSize: 日志存储限制,选填,默认值为100G。仅AIOps生效。 groups:日志配置组名,必填。当前BI场景支持1个或多个分组,AIOps场景有且只能填写一个分组并且提前在AIOps管理面创建好。
大模型微调需要的数据有要求吗? AI原生应用引擎用于大模型微调的数据集任务领域为“自然语言处理”、数据集格式为“对话文本”。 文件内容要求为标准json数组,例如: [{"instruction": "aaa", "input": "aaa", "output": "aaa"},{"instruction":
构建知识库 创建知识数据集 创建知识库 创建知识检索流
查看模型调用记录 用户可以通过查看模型的调用记录,获取模型调用方式、用时及调用时间等信息。 查看模型调用记录 在AI原生应用引擎的左侧导航栏选择“模型中心 > 模型调用记录”。 在“模型调用记录”页面,通过筛选调用方式、时间范围、状态,或输入模型名称可快速查看模型调用记录信息,如
需要新增实例,请参考新增平台API Key获取AI原生应用引擎平台API Key。 本实践选用资产中心预置的第三方模型glm-4作为旅游规划模型,请参考如何对模型供应商提供的模型服务设置鉴权设置模型鉴权。 构建旅游规划工作流 在AI原生应用引擎的左侧导航栏,选择“Agent编排中心
我接入的模型需要满足什么要求才能在创建Agent时作为思考模型? 模型本身支持FunctionCall。 接入的模型需要符合OpenAI接口规范且具体请参见模型API接入接口规范。 流式返回的工具调用信息必须在一条消息内,不能分拆返回。 接入模型服务时 ,在模型服务描述中填写:S
发布Agent的时候提示套餐校验失败 发布Agent前需要订购智能应用运行时引擎资源,请参靠购买AI原生应用引擎,按照需要购买实例个数以及时长。 父主题: AI原生应用引擎
生成模型服务 将已有模型部署为模型服务 接入模型服务 创建路由策略用于提供模型服务 父主题: 管理模型
台鉴权认证,可以使用“平台API Key”进行平台的鉴权认证。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 创建API Key 在AI原生应用引擎的左侧导航栏选择“凭证管理 > 我的凭证”。 在“我的凭证”页面,选择“平台API
描述 必填项。 自定义卡片的描述信息。 封面图 卡片的封面图。 自动截图:单击“截屏”,自动获取画布中的图片。 上传封面:单击“添加图片”,在弹出界面,单击,选择本地准备好的图片,裁剪出符合要求的尺寸后,单击。 在界面右上方单击“保存”,系统自动弹出“保存”页面,确认卡片信息,单击“保存”。
Request base url is https://xxxxx, path is /v1/chat/completions 父主题: AI原生应用引擎SDK API
版本变更记录 表1 版本变更记录 版本 变更类型 说明 0.0.1 - 第一次发布。 父主题: AI原生应用引擎SDK API
Agent问答的时候没有回答 思考模型没有配置鉴权,或者鉴权失效了,可以通过模型调测功能测试思考模型是否正常,具体操作请参见调测/体验模型。 父主题: AI原生应用引擎