检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
训练benchmark工具 工具介绍及准备工作 训练性能测试 训练精度测试 父主题： 主流开源大模型基于Lite Server适配LlamaFactory PyTorch NPU训练指导（6.3.912）
场景介绍 方案概览 本文档利用训练框架PyTorch_npu+华为自研Ascend Snt9B硬件，为用户提供了常见主流开源大模型在ModelArts Lite Server上的预训练和全量微调方案。训练框架使用的是ModelLink。 本方案目前仅适用于部分企业客户，完成本方案
准备工作 准备环境 准备代码 准备镜像环境 准备数据（可选） 父主题： 主流开源大模型基于Lite Server适配LlamaFactory PyTorch NPU训练指导（6.3.908）
场景介绍 方案概览 本文档利用训练框架PyTorch_npu+华为自研Ascend Snt9B硬件，为用户提供了常见主流开源大模型在ModelArts Standard上的预训练和全量微调方案。 本方案目前仅适用于部分企业客户，完成本方案的部署，需要先联系您所在企业的华为方技术支持。
准备资源 创建专属资源池 本文档中的模型运行环境是ModelArts Standard，用户需要购买专属资源池，具体步骤请参考创建资源池。 资源规格要求： 计算规格：用户可参考表1。 硬盘空间：至少200GB。 昇腾资源规格： Ascend: 1*ascend-snt9b表示昇腾单卡。
LoRA微调训练 前提条件 已上传训练代码、训练权重文件和数据集到OBS中，具体参考代码上传至OBS。 Step1 创建训练任务 创建训练作业，并自定义名称、描述等信息。选择自定义算法，启动方式自定义，以及选择上传的镜像。 代码目录选择：OBS桶路径下的llm_train/AscendSpeed代码目录。
训练脚本说明 训练启动脚本说明和参数配置 训练的数据集预处理说明 训练的权重转换说明 训练tokenizer文件说明 父主题： 主流开源大模型基于Standard+OBS适配ModelLink PyTorch NPU训练指导（6.3.909）
准备工作 准备资源 准备数据 准备权重 准备代码 准备镜像 父主题： 主流开源大模型基于Standard+OBS+SFS适配ModelLink PyTorch NPU训练指导（6.3.909）
准备数据 本教程使用自定义数据集，数据集的介绍及下载链接参考自定义数据。 自定义数据 Qwen-VL指令微调数据：Qwen-VL-Chat微调的数据需要用户自行制作，需要准备一个JSON文件存放训练样本，每个样本需包含id和对话内容。对话内容按user和assistant轮流发言
运维中心负载均衡功能介绍 负载均衡（Software/Server Load Balancer，SLB）基于Nginx/OpenResty构建，作为业务前置的流量接入网关，提供反向代理、负载均衡、路由分发、灰度分流、限流降级、访问控制、监控告警等能力。 SLB组件介绍 SLB组件间的关系如图1所示。
Permission denied: '/opt/huawei/release/lf_test/SLB/ 问题现象 SLB部署失败，日志详细信息提示如下： [Errno 13] Permission denied: '/opt/huawei/release/lf_test/SLB/'
NUWA提供一个完整的微服务开发框架，是一个开箱即用的应用级容器，以插件的形式汇聚云服务平台能力，让开发把时间更多的花在业务代码逻辑上。 Kubernetes Kubernetes是一个开源的，用于管理云平台中多个主机上的容器化的应用，Kubernetes的目标是让部署容器化的应用简单并
|──scripts_llamafactory/ # 兼容旧版本启动方式目录 |──tools/ # 针对昇腾云平台适配的功能补丁包 |──demo.yaml # 样例yaml配置文件 |──demo
原始数据采集完毕之后，需要将原始数据转换为Octopus平台适用的数据格式，以便于快速完成数据处理。 创建数据导入任务 在左侧菜单栏中，选择“数据处理 > 数据批导”。 在“数据导入”页签单击“导入”，填写具体信息。 选择目标数据包所在的对象存储路径，平台将自动扫描该目录下所有子目录。将此文件夹
paho库文件 Makefile：Makefile文件 建立连接 设备或网关在接入物联网平台时首先需要和平台建立连接，从而将设备或网关与平台进行关联。开发者通过传入设备信息，将设备或网关连接到物联网平台。 设置参数。 char *uri = "ssl://iot-mqtts.cn-north-4
操作流程 构建统一终端业务应用保护及数据管理平台流程图 图1 流程图
集成架构 设备接入ISDP+平台时，集成架构如图1所示。 图1 集成架构 父主题： 设备接入
集成PC端应用到ISDP+系统 集成PC端应用到ISDP+系统，参考集成到ISDP+平台 父主题： 集成
集成大屏应用到ISDP+系统 集成PC端大屏到ISDP+系统，参考集成到ISDP+平台 父主题： 集成
107-049 识别结果推送获取流程接入码失败异常码 107-050 识别结果推送获取servicetoken失败异常码 107-051 识别结果推送 servicetoken 无效异常码 107-052 识别结果推送失败异常码 107-053 识别结果推送请求异常码 107-054 识别结果推送请求超时异常码
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
