检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
果。 本文以AI原生应用引擎预置的baichuan-13B为基座模型,通过微调提升模型的数据分析和指标计算能力,帮助您快速掌握使用AI原生应用引擎完成模型调优并测试效果。 使用流程 通过图1您可以了解如何在AI原生应用引擎创建数据集、创建微调任务、部署推理模型以及在线测试模型效果。
使用Rainbow SDK(NUWA框架) 引入Rainbow SDK Rainbow SDK依赖Cloud Map的注册和发现能力,在引入Rainbow SDK之前,要先引入STS SDK和Cloud Map SDK,并完成STS和Cloud Map的初始化,具体请参见使用STS
如果创建Agent时,使用配置变量的方式实现了记忆能力,在使用Agent时会自动识别对话与变量匹配的内容,自动更新变量取值,选择页面右上角的“记忆 > 变量”,可以查看变量使用效果。 如果创建Agent时,开启了“片段记忆”,在使用Agent时会自动识别并保留用户个性化信息,选择页面右上角的“记忆 > 片段记忆”,可以查看片段记忆使用效果。
支持通过各资产面板,筛选查看各子部门资产的创建、收藏及订阅数据。 前提条件 需要具备AI原生应用引擎租户运营管理员权限,权限申请操作请参见AppStage组织成员申请权限。 查看资产总览 在AI原生应用引擎的左侧导航栏选择“运营看板 > 资产总览”,资产总览页面如图1所示。 图1
模型调用统计页面展示当前租户所在的根部门以及租户下二级子部门的模型调用情况。 前提条件 需要具备AI原生应用引擎租户运营管理员权限,权限申请操作请参见AppStage组织成员申请权限。 查看模型调用统计 在AI原生应用引擎的左侧导航栏选择“运营看板 > 模型调用统计”。 在模型调用统计页面,默
使用Rainbow SDK(Spring Cloud框架) 引入Rainbow SDK Rainbow SDK依赖Cloud Map的注册和发现能力,在引入Rainbow SDK之前,要先引入STS SDK和Cloud Map SDK,并完成STS和Cloud Map的初始化,具体请参见使用STS
I,但是该模型能力有限,只能作为问答模型,不能作为思考模型。首次使用该模型服务API需要订购免费的“ChatGLM3-6B大模型服务API在线调用”资源,订购后即可进行体验,订购操作请参见购买AppStage。 平台预置了开源模型Qwen系列、DeepSeek系列等,请参考将已有
Agent调用统计页面展示当前租户所在的根部门以及租户下二级子部门的Agent调用情况。 前提条件 需要具备AI原生应用引擎租户运营管理员权限,权限申请操作请参见AppStage组织成员申请权限。 查看模型调用统计 在AI原生应用引擎的左侧导航栏选择“运营看板 > Agent调用统计”。 在Agent调用
通过运营看板查看AI原生应用引擎资产总览 查看资产总览 查看模型调用统计 查看Agent调用统计
创建并发布Agent Agent指具备自主智能的AI实体应用,具有一定的智能和自主性,可以自主地发现问题、设定目标、构思策略、执行任务等。 平台在资产中心预置了部分AI应用,同时也支持用户创建Agent,当前支持创建LLM模式和工作流模式两种类型的Agent。 LLM模式下,将准
AI原生应用引擎训练好后的模型如何获取? 使用模型微调训练好模型后的新模型只能通过模型部署(创建模型服务)上线,无法下载至本地使用。 父主题: AI原生应用引擎
nt或工作流关联的知识库进行检索增强,以提升Agent响应质量。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 创建知识检索流 在AI原生应用引擎的左侧导航栏选择“知识中心 > 知识检索流”,单击“创建知识检索流”。
性和深度。大模型会基于提示语所提供的信息,生成对应的文本或者图片。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 创建提示语 在AI原生应用引擎的左侧导航栏选择“知识中心 > 提示语”,单击“创建提示语”。 在“创建提
SSL_do_handshake() failed 问题现象 配置同步失败,日志详细信息提示如下: "SSL_do_handshake() failed" 解决方法 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发 > 负载均衡”。 选择左侧导航栏的“证书管理”。
upstream "后端服务器名称" in /.../server...conf:17 nginx: .../nginx.conf test failed [FAILED 问题现象 配置同步失败,日志详细信息提示如下: "test nginx: nginx: [emerg] host not found
AI原生应用引擎SDK介绍 快速开始 modules模块
AI原生应用引擎支持所有数据集进行数据标注吗? 进行标注的数据集必须同时满足用途为“模型训练”、任务领域为“自然语言处理”、任务子领域为“文本生成”、数据集格式为“对话文本”四个条件。 父主题: AI原生应用引擎
le name="rainbow_stat" fileName="${logDir}/rainbow/rainbow_stat.log" filePattern="${logDir}/rainbow/rainbow_stat.log
概述 Rainbow SDK构建云原生DevOps全流程可信build-in的数据库治理解决方案 。 提供MySQL/Cassandra/GaussDB/DRDS全流程设计、开发、发布、运维(管理、治理、诊断)方案。 可信build-in:过程可信,结果可信,接入安全(无人工接入密码),操作(资源高危操作)安全。
再次进行微调。 前提条件 已订购大模型微调服务API在线调用-SFT局部调优,订购方法请参见购买AI原生应用引擎按需计费资源。 已具备格式为“对话文本”的微调数据集,具体请参考创建微调数据集或收藏预置微调数据集。 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。