检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
UI编辑插件介绍 随着互联网的快速发展，用户对于网页的交互性和体验要求也越来越高，不同的企业或组织在业务流程、数据需求等方面存在差异，传统的模板化页面可能无法完全满足用户的个性化需求。而流程引擎支持在定义流程元模板时，根据用户的操作习惯、偏好、业务流程及需求，可视化定义流程表单，
附录：自定义后端的Swagger扩展定义 概述 ROMA Connect在Swagger原有定义的基础上，定义了特有的API定义项，即扩展定义，如认证方式、函数脚本定义等。本章节主要介绍自定义后端使用的扩展定义。 1：x-livedata-auth-type 含义：基于Swagg
附录：QuartZ Cron表达式配置说明 参数说明 数据集成任务支持使用QuartZ Cron表达式配置定时任务的调度计划。 QuartZ Cron表达式由6个部分组成，每个部分使用空格隔开。表达式中的六个部分从左到右代表的含义如下： 秒 分 时 日 月 周 具体参数如表1所示。
轻量化模型卡片 添加轻量化模型卡片 进入IPDCenter基础服务登录页面，输入账号和密码，单击“登录”。 在角色桌面首页，单击自定义桌面页签上的，进入编辑状态。 单击“增加功能卡片”，在卡片列表的常用卡片区域选择“轻量化模型”卡片。 将“轻量化模型”卡片拖拽到角色桌面待添加区域。
统一产品全生命周期数据服务 编码发生器 父主题： IPDCenter基础服务使用指南
安装Metrics Server Metrics Server是集群核心资源监控数据的聚合器。安装本插件后，可创建HPA策略，具体请参考创建弹性伸缩-HPA策略。 Metrics Server社区官方项目及文档请参考：https://github.com/kubernetes-sigs/metrics-server。
删除Metrics Server 本章节指导您删除Kubernetes类型环境下已安装的Metrics Server插件。 删除Metrics Server插件，会删除如下表所示的内容。 名称 说明 工作负载 安装Metrics Server时选择的CCE集群kube-syste
报错“Permissions for 'x:/xxx.pem' are too open”如何解决？ 问题现象 原因分析 原因分析一：密钥文件未放在指定路径，详情请参考安全限制或VS Code文档。请参考解决方法一处理。 原因分析二：当操作系统为macOS/Linux时，可能是密
实践概述 在实际业务中，考虑到机房故障问题，需要将服务部署在不同的可用区中以提高可用性。 但是，在不同可用区部署组件时每个组件都必须按需配置一遍，存在操作复杂、容易出错的问题。而且需要在组件创建完成后立即部署运行，并不支持创建后按需部署的需求。如果组件配置错误，会导致部署失败，需要删除后重新创建并部署。
构建验证 手动构建验证 GitLab自动触发Jenkins构建 父主题： 使用GitLab对接Jenkins自动构建并滚动升级部署到ServiceStage的组件
预训练 前提条件 已上传训练代码、训练权重文件和数据集到SFS Turbo中。 Step1 修改训练超参配置 以llama2-13b预训练为例，执行脚本0_pl_pretrain_13b.sh。 修改模型训练脚本中的超参配置，必须修改的参数如表1所示。其他超参均有默认值，可以参考表1按照实际需求修改。
场景介绍 方案概览 本文档利用训练框架LlamaFactory+华为自研Ascend Snt9B硬件，为用户提供了常见主流开源大模型在ModelArts Lite Server上的不同训练阶段方案，包括指令监督微调、DPO偏好训练、RM奖励模型训练、PPO强化训练方案。 DPO(Direct
训练脚本说明 训练启动脚本说明和参数配置 训练的数据集预处理说明 训练的权重转换说明 训练tokenizer文件说明 父主题： 主流开源大模型基于Standard+OBS适配ModelLink PyTorch NPU训练指导（6.3.909）
预训练 前提条件 已上传训练代码、训练权重文件和数据集到SFS Turbo中。 Step1 修改训练超参配置 以llama2-13b预训练为例，执行脚本0_pl_pretrain_13b.sh。 修改模型训练脚本中的超参配置，必须修改的参数如表1所示。其他超参均有默认值，可以参考表1按照实际需求修改。
准备工作 准备资源 准备数据 准备权重 准备代码 准备镜像 准备Notebook（可选） 父主题： 主流开源大模型基于Standard+OBS适配ModelLink PyTorch NPU训练指导（6.3.910）
训练脚本说明 训练启动脚本说明和参数配置 训练的数据集预处理说明 训练的权重转换说明 训练tokenizer文件说明 父主题： 主流开源大模型基于Standard+OBS适配ModelLink PyTorch NPU训练指导（6.3.910）
场景介绍 方案概览 本文档利用训练框架PyTorch_npu+华为自研Ascend Snt9B硬件，为用户提供了常见主流开源大模型在ModelArts Lite Server上的预训练和全量微调方案。训练框架使用的是ModelLink。 本方案目前仅适用于部分企业客户，完成本方案
准备工作 准备环境 准备代码 准备镜像 父主题： 主流开源大模型基于Lite Cluster适配PyTorch NPU推理指导（6.3.909）
部署推理服务 本章节介绍如何使用vLLM 0.6.0框架部署并启动推理服务。 前提条件 已准备好Lite k8s Cluster环境，具体参考准备环境。推荐使用“西南-贵阳一”Region上的Cluster和昇腾Snt9b资源。 安装过程需要连接互联网git clone，确保集群可以访问公网。
部署推理服务 非分离部署推理服务 分离部署推理服务 父主题： 主流开源大模型基于Lite Server适配PyTorch NPU推理指导（6.3.908）
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
