检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
准备数据 本教程使用到的训练数据集是Alpaca数据集。您也可以自行准备数据集。 Alpaca数据集 本教程使用Alpaca数据集，数据集的介绍及下载链接如下。 Alpaca数据集是由OpenAI的text-davinci-003引擎生成的包含52k条指令和演示的数据集。这些指令数据可以用来对语言模型进行指令调优
success Boolean 授权或者取消授权是否成功。
16 }, "failed_user" : { }, "total" : { "1606233612612" : 16, "1606320012681" : 16 }, "queuing" : { }, "success
主流开源大模型基于Lite Cluster适配PyTorch NPU训练指导（6.3.911） 场景介绍 准备工作 预训练任务 SFT全参微调训练任务 LoRA微调训练 查看日志和性能 训练脚本说明 常见错误原因和解决方法 父主题： LLM大语言模型训练推理
主流开源大模型基于Lite Cluster适配PyTorch NPU推理指导（6.3.909） 推理场景介绍 准备工作 部署推理服务 推理性能测试 推理精度测试 推理模型量化 附录：基于vLLM不同模型推理支持最小卡数和最大序列说明 附录：大模型推理常见问题 附录：工作负载Pod异常问题和解决方法
附录：工作负载Pod异常问题和解决方法 父主题： LLM大语言模型训练推理
检查是否安装docker。 docker -v #检查docker是否安装 如尚未安装，运行以下命令安装docker。
docker push <镜像仓库地址>/<组织名称>/<镜像名称>:<版本名称> 示例： docker push swr.cn-southwest-2.myhuaweicloud.com/ma-group/pytorch_2_1_ascend:20240606 父主题： 准备镜像
docker push <镜像仓库地址>/<组织名称>/<镜像名称>:<版本名称> 示例： docker push swr.cn-southwest-2.myhuaweicloud.com/ma-group/pytorch_2_1_ascend:20240606 父主题： 准备镜像
docker push <镜像仓库地址>/<组织名称>/<镜像名称>:<版本名称> 示例： docker push swr.cn-southwest-2.myhuaweicloud.com/ma-group/pytorch_2_1_ascend:20240606 父主题： 准备镜像
docker push <镜像仓库地址>/<组织名称>/<镜像名称>:<版本名称> 示例： docker push swr.cn-southwest-2.myhuaweicloud.com/ma-group/pytorch_2_1_ascend:20240606 父主题： 准备镜像
docker push <镜像仓库地址>/<组织名称>/<镜像名称>:<版本名称> 示例： docker push swr.cn-southwest-2.myhuaweicloud.com/ma-group/pytorch_2_1_ascend:20240606 父主题： 准备镜像
父主题： 主流开源大模型基于Lite Cluster适配PyTorch NPU推理指导（6.3.911）
docker push <镜像仓库地址>/<组织名称>/<镜像名称>:<版本名称> 示例： docker push swr.cn-southwest-2.myhuaweicloud.com/ma-group/pytorch_2_1_ascend:20240606 父主题： 准备镜像
表6 响应参数 参数 参数类型 说明 is_success Boolean 请求是否成功。 error_message String 调用失败时的错误信息。 调用成功时无此字段。 error_code String 调用失败时的错误码，具体请参见错误码。调用成功时无此字段。
docker push <镜像仓库地址>/<组织名称>/<镜像名称>:<版本名称> 示例： docker push swr.cn-southwest-2.myhuaweicloud.com/ma-group/pytorch_2_1_ascend:20240606 父主题： 准备镜像
docker push <镜像仓库地址>/<组织名称>/<镜像名称>:<版本名称> 示例： docker push swr.cn-southwest-2.myhuaweicloud.com/ma-group/pytorch_2_1_ascend:20240606 父主题： 准备镜像
docker push <镜像仓库地址>/<组织名称>/<镜像名称>:<版本名称> 示例： docker push swr.cn-southwest-2.myhuaweicloud.com/ma-group/pytorch_2_1_ascend:20240606 父主题： 准备镜像
枚举值如下： BMS：裸金属服务器 ECS：弹性云服务器 HPS：超节点服务器 hps_id String 服务器所属的超节点资源id。
枚举值如下： BMS：裸金属服务器 ECS：弹性云服务器 HPS：超节点服务器 hps_id String 服务器所属的超节点资源id。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
