检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
将已有模型部署为模型服务 模型需要部署成功后才可正式提供模型服务。部署成功后,可以对模型服务进行模型调测,并支持在创建Agent时使用或通过模型调用接口调用。 本文介绍如何将微调后的模型或部分平台预置的模型部署为模型服务。 前提条件 已购买推理单元资源,具体购买方法请参见购买AI原生应用引擎包年包月资源。
模型使用指引 操作指引 图1 模型使用操作指引 表1 模型使用流程详解 序号 流程环节 说明 1 基于微调数据集进行模型微调 创建微调数据集 收藏预置微调数据集 对于需要个性化定制模型或者在特定任务上追求更高性能表现的场景,往往需要对大语言模型进行模型微调以适应特定任务。微调数据
在SLB中配置负载均衡其他配置项 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 其他配置 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发 > 负载均衡”。 选择左侧导航栏的“实例管理”。 在实例列表中单击实例名称,进入实例详情页面。
应用开发 配置开发团队及服务扩展信息 创建及规划版本 开发版本 构建版本 测试版本 发布版本 父主题: 一站式应用开发、应用托管以及应用运维
导出IAC信息”,导出SLB服务的所有IAC信息(SLB实例、后端服务器、健康检查、监听、转发策略、动态路由规则等),可作为实例执行IAC变更。 导出IAC关联信息 单击监听列表中的监听名称,在页面右上角选择“导出 > 导出IAC关联信息”,导出IAC关联信息。 同步监听 单击监
配置监听 部署成功之后需要配置“健康检查”及“转发策略”。 前提条件 需要具备AppStage服务运维岗位权限,权限申请操作请参见申请权限。 操作步骤 登录AppStage首页。 在快捷入口选择“运维中心”,进入运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发 > 负载均衡”。
创建知识数据集 功能介绍 创建知识数据集 URI POST /v1/knowledge-datasets 表1 Query参数 参数 是否必选 参数类型 描述 data_set 是 String 创建知识数据集请求体,参数结构请参见“附录 > 知识数据集请求参数说明” file 否
AppStage最佳实践汇总 本文汇总了基于应用平台AppStage常见应用场景的操作实践,为每个实践提供详细的方案描述和操作指导,帮助您深入了解AppStage的各个功能。 表1 AppStage最佳实践一览表 最佳实践 说明 一站式应用开发、应用托管以及应用运维 介绍如何使用
入门实践 当您购买AppStage后,可以根据自身的业务需求使用AppStage提供的一系列常用实践。 表1 常用最佳实践 实践 描述 一站式应用开发、应用托管以及应用运维 介绍如何使用应用平台AppStage一站式功能,完成基于应用维度提供的开发、测试、版本发布、托管部署、运维监控的全场景全生命周期管理。
在WiseDBA中诊断数据库 在WiseDBA中查看数据库性能指标 在WiseDBA中查看数据库会话 在WiseDBA中查看数据库状态 在WiseDBA中查看数据库接口调用情况 在WiseDBA中查看数据库产生的事件 在WiseDBA中查看数据库空间概况 在WiseDBA中查看数据库MDL锁和INNODB死锁情况
将数据汇聚至MPPDB表 数据汇聚是将MPPDB、 InfluxDB和ClickHouse数据源中的数据按需整合并进行分析处理。允许用户创建汇聚任务,以实现对采集指标的汇聚处理,从而使得数据能够在一个或多个MPPDB数据库中被统一管理、存储和分析。创建汇聚任务后,需要经过运维管理
默认分支 手工或定时执行流水线时默认使用的分支。 CodeArts Repo https授权 配置授权扩展点以提升代码库操作权限,主要用于微服务变更流水线和部分仓库操作插件。 别名 输入别名,则会生成该仓库对应的相关系统参数(可在参数设置页面查看),否则不会生成。 用户选择Repo流水
日志处理 介绍SDK提供的日志配置方法以及日志格式。 日志级别配置 日志组件 SDK以SLF接口输出日志,默认使用logback输出日志,引入了logback-core-***.jar和logback-classic-***.jar这两个jar包,SLF会绑定到logback输出日志。
在AppStage开发中心规划交付件 规划交付件是指在产品版本开发启动初期对产品开发过程所需的交付件进行规划,以辅助开发过程规范有序且可追溯。组织管理员添加版本交付件模板后,版本管理规划交付件时可以使用这些模板添加交付件,也可以添加自定义类型的交付件。 前提条件 已创建版本。 已
责任共担 华为云秉承“将公司对网络和业务安全性保障的责任置于公司的商业利益之上”。针对层出不穷的云安全挑战和无孔不入的云安全威胁与攻击,华为云在遵从法律法规业界标准的基础上,以安全生态圈为护城河,依托华为独有的软硬件优势,构建面向不同区域和行业的完善云服务安全保障体系。 安全性是华为云与您的共同责任,如图1所示。
对创建的提示语进行优化 提示语优化是针对提示语进行结构、排版、内容等维度进行优化和改进,将大模型的输入限定在了一个特定的范围之中,进而更好地控制模型的输出。通过提供清晰和具体的指令,引导模型输出并生成高相关、高准确且高质量的文本对答内容,属于自然语言处理领域突破的重要技术,可以提
CES指标接入 云监控服务CES可以收集云服务内置监控指标的数据,可以通过监控这些指标来跟踪对应云服务状态。AppStage运维中心支持将CES收集的监控指标数据采集到运维中心监控服务中进行管理,可以参考支持监控的服务列表查看CES当前已支持的监控指标。 选择服务后首次使用监控服
CES指标接入监控服务 云监控服务CES可以收集云服务内置监控指标的数据,可以通过监控这些指标来跟踪对应云服务状态。AppStage运维中心支持将CES收集的监控指标数据采集到运维中心监控服务中进行管理,可以参考支持监控的服务列表查看CES当前已支持的监控指标。 选择服务后首次使
SLB实例配置 本章介绍通过IaC进行SLB实例配置的管理,包括nginx.conf,url重写/重定向,内网段,降级,黑白名单,流控,其他配置以及自定义lua配置,对应的资源类型为WiseCloud::LoadBalancer::SLB::Config。 SLB实例配置 表1 SLB实例配置字段说明
配置微服务治理 微服务部署完后,您可以根据微服务的运行情况进行微服务的治理。 治理策略说明 支持负载均衡、限流、故障隔离、容错、降级、熔断、错误注入、超时时间和OLC流控等策略的配置。各治理项说明如表1所示。 表1 治理策略说明 名称 说明 负载均衡 微服务一般会部署多个实例,负