检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
体验Agent Agent体验是指以对话的形式,对自创建的Agent或平台资产中心预置的AI应用进行体验调测,以发现并解决Agent接口上的问题和错误。 体验我的Agent 在AI原生应用引擎的左侧导航栏选择“Agent编排中心 > 我的Agent”。 选择“我创建的”页签,单击Agent列表“操作”列的“体验”。
ERROR - fail to load 问题现象 judge日志中出现ERROR - fail to load错误提示,如下图 可能原因 日志中提示加载模型失败,可能是因为容器在启动时加载模型失败。 解决方法 依次单击“初始化Daemon”、“注册任务”和“启动任务”,重启ju
200 AIAE.22009001 系统内部错误,请联系管理员 系统内部错误,请联系管理员 系统内部错误,请联系技术支持 400 AIAE.31001106 AK/SK signature verify failed, please check and try again later!
管理模型 模型使用指引 基于微调数据集进行模型微调 生成模型服务 调测/体验模型 评测模型 查看模型调用记录 收藏平台资产中心的模型 模型API接入接口规范 如何对平台接入的第三方模型服务设置鉴权
管理工具 创建工具 导入工具 将创建的工具上架到资产中心 收藏上架的工具 调用资产中心工具前设置认证鉴权
管理我的凭证 创建AK/SK访问密钥 创建API Key
"model": "my-rerank-model", "query": "请问AI原生应用引擎提供了什么能力?", "docs": ["AI原生应用引擎提供了应用开发、模型网关等能力。", "AI原生应用引擎正在逐步完善、提高竞争力。"], "top_n": 3 }
开源模型怎么部署? 开源模型的部署需要购买推理单元,具体操作如下: 在AI原生应用引擎的左侧导航栏选择“资产中心”,选择“大模型”页签。 将鼠标光标移至待部署的开源模型卡片上,单击“部署”。 在“创建部署服务”页面,可以查看到需要几个推理单元,单击“购买推理单元资源”。 图1 创建部署服务
管理Agent Agent编排使用指引 创建并发布Agent 体验Agent 使用Agent 收藏资产中心预置的AI应用
查看账户信息 登录AI原生应用引擎,将鼠标移至右上角登录的用户名,弹出“账户信息”页面,可查看当前登录用户的账户信息:账号名、岗位。 修改成员账号密码(通过OrgID创建的成员账号) 适用于通过添加成员加入组织的成员账号修改密码。为保障账号安全,建议定期更新密码。 登录AI原生应用引擎
properties: AIOPSCONFIG_AIOPSSERVER: format: notype AIOPSCONFIG_AIOPSTOKENURI: format: sensitive records: AIOPSCONFIG_AIOPSSERVER:
评测模型 平台支持从多个维度对模型的能力、性能进行评估,以保证模型效果,为模型选型提供可靠依据。 约束与限制 仅支持对文本对话类型的模型服务进行评测。 前提条件 评测模型前,请先通过调测/体验模型功能确认模型可用。 创建评测任务 在AI原生应用引擎的左侧导航栏选择“模型中心 > 模型评测”,单击“创建评测任务”。
SDK概述 AI原生应用引擎SDK面向开发者提供了一套搭建原生应用的Python SDK,包含了模型调用,知识获取,工具调用等功能。开发者可以使用SDK调用AI原生应用引擎的各种能力,帮助开发者快速构建大模型应用。 表1 模块说明 序号 模块 功能 1 HttpxClient 负责发送HTTP请求的基类。
管理资产中心预置提示语 提示语是给大模型的指令,它可以是一个问题、一段文字描述,也可以是带有一系列参数的文字描述。 AI原生应用引擎资产中心预置了多款提示语模板,这些模板是基于大量应用场景下的经验或者训练语料而总结出一些优质的提示语组成结构,将其抽离成为一种模板,支持测试、一键快速复制及收藏等。在模
生成模型服务 将已有模型部署为模型服务 接入模型服务 创建路由策略用于提供模型服务 父主题: 管理模型
持续规划 > 需求规划”。 在“需求规划”页面,单击“添加需求”。 勾选需要为版本关联的需求,然后单击“确定”。添加后需求会显示在需求规划列表中。 如果后续需要取消需求与版本的关联,可以在列表中,单击需求所在行操作列的“从此版本移除”,移除该需求。 相关操作 需求创建后,在进行版
版本变更记录 表1 版本变更记录 版本 变更类型 说明 0.0.1 - 第一次发布。 父主题: AI原生应用引擎SDK API
Agent问答的时候没有回答 思考模型没有配置鉴权,或者鉴权失效了,可以通过模型调测功能测试思考模型是否正常,具体操作请参见调测/体验模型。 父主题: AI原生应用引擎
管理提示语 创建提示语 对创建的提示语进行优化 管理资产中心预置提示语
查看模型调用记录 通过查看模型的调用记录,可以获取模型调用方式、用时及调用时间等信息。 查看模型调用记录 在AI原生应用引擎的左侧导航栏选择“模型中心 > 模型调用记录”。 在“模型调用记录”页面,通过筛选调用方式、日期、状态,或输入模型名称可快速查看模型调用记录信息,如模型调用