检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
模型使用指引 操作指引 图1 模型使用操作指引 表1 模型使用流程详解 序号 流程环节 说明 1 基于微调数据集进行模型微调 创建微调数据集 收藏预置微调数据集 对于需要个性化定制模型或者在特定任务上追求更高性能表现的场景,往往需要对大语言模型进行模型微调以适应特定任务。微调数据
Agent编排使用指引 操作指引 图1 AI原生应用引擎使用流程 表1 编排Agent的流程详解 序号 流程环节 说明 1 创建及发布Agent 一站式创建专属Agent,并将应用程序及相关组件进行发布,使其能够正常运行。当前支持创建LLM模式和工作流模式两种类型的Agent。
Model,简称LLM)是通过深度学习技术训练的人工智能模型,具备理解、生成和处理人类语言的能力。 技能 技能是在自动化和人工智能领域的应用程序。能够自动地执行一些任务或提供一些服务,如客户服务、数据分析、信息传输、智能助手、自动回复等。 智能编排 智能编排是一种基于人工智能技术的自动化流程编排工具,
实例化参数 参数名 参数类型 是否必选 参数描述 base_url str False 模型网关开放的ip和端口,有默认值可以不填。功能类似OpenAI的base_url。 custom_hearders dict False 其他自定义请求头信息。 http_client httpx.client
虚拟机部署 虚拟机部署流程 上传Terraform包和软件包 使用虚拟机部署应用 其他操作 父主题: 部署应用
根据业务需要选择规模,本实践中选择集群规模为50节点。 购买集群 ECS服务器 购买1个ECS服务器,容灾场景下购买2个ECS服务器。 根据业务需要选择规格,本实践中选择规格为:通用计算增强型/2vCPUs/4GiB/c6.large.2 购买ECS 启用环境并录入账号信息,具体请参见环境配置及账号录入。
基于微调数据集进行模型微调 创建微调数据集 收藏预置微调数据集 对微调数据集进行数据标注 创建模型微调任务 父主题: 管理模型
工作流基础节点说明 起始节点 调用子工作流 数据连接器 LLM 知识库 变量V2 控制 JSON构造器 Code代码 结束 父主题: 管理工作流
在主机管理服务中,选择“主机列表 > 弹性云服务器”,查看IP地址和主机名称。 单击“保存”。 部署节点 本节介绍如何部署自管理主机节点。 实例节点所在的归属服务需要和实例所在的所属服务一致。在主机管理服务中,选择“主机列表 > 弹性云服务器”,单击主机名称,查看实例节点所在的归属服务。
properties: AIOPSCONFIG_AIOPSSERVER: format: notype AIOPSCONFIG_AIOPSTOKENURI: format: sensitive records: AIOPSCONFIG_AIOPSSERVER:
在主机管理服务中,选择“主机列表 > 弹性云服务器”,查看IP地址和主机名称。 单击“保存”。 部署节点 本节介绍如何部署自管理主机节点。 实例节点所在的归属服务需要和实例所在的所属服务一致。在主机管理服务中,选择“主机列表 > 弹性云服务器”,单击主机名称,查看实例节点所在的归属服务。
其他操作 创建虚拟机集群 创建集群扩容模板 使用部署包部署虚拟机 管理组件包及插件 父主题: 虚拟机部署
UpdateError 实例更新错误 NuwaRuntime.Microservice.UnknownError 未知异常 父主题: NUWA Container
任务列表”页面,可以查看纳管主机触发的“OsDiscovery”任务执行状态。在主机管理服务“云服务器管理 > 弹性云服务器”页面,可以查看已纳管的主机。如果在“云服务器管理 > 弹性云服务器”页面查询到所有已纳管主机并且“OsDiscovery”任务都成功,表示纳管成功。 纳管主机
运维中心进行统一管理。 前提条件 已创建VPC和子网,具体操作请参见创建虚拟私有云和子网。 已购买主机,具体操作请参见购买弹性云服务器ECS或购买裸金属服务器BMS。 已购买数据库实例,具体操作请参见购买GaussDB(for MySQL)实例、购买GaussDB实例、购买RDS
创建和管理监听 (可选)录入HTTPS监听所需的服务器证书 在SLB中创建监听 将监听配置同步到SLB节点 在SLB中配置监听共享 父主题: 配置运维中心负载均衡
在SLB中创建和管理监听 (可选)录入HTTPS监听所需的服务器证书 在SLB中创建监听 将监听配置同步到SLB节点 在SLB中配置监听共享 父主题: 配置运行时引擎负载均衡
get:get请求,用于从服务器获取数据,通常使用URL参数传递数据。 post:post请求,用于向服务器提交数据,通常将数据放在请求体中。 delete:delete请求,用于删除服务器上的资源,通常使用URL参数指定要删除的资源。 put:put请求,用于更新服务器上的资源,通常将更新的数据放在请求体中。
get:用于从服务器获取数据,通常使用URL参数传递数据。 post:用于向服务器提交数据,通常将数据放在请求体中。 delete:用于删除服务器上的资源,通常使用URL参数指定要删除的资源。 put:用于更新服务器上的资源,通常将更新的数据放在请求体中。 patch:请求服务器更新资源
Node Node是一个执行具体工作的机器,可以是虚拟机或者物理机。Pod是部署在Node节点上的,如果Node故障,整个Pod会被调度到集群中的另外可用的Node节点上去。 集群 将多个服务器集中起来使它们能够像一台服务器一样提供服务的计算机技术。采用集群通常是为了提高系统的