检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
图1 安装路径回显 刷新JupyterLab页面，可以看到新的kernel。 重启Notebook后kernel需要重新注册。
图1 GPU规格运行日志信息 图2 CPU规格运行日志信息 父主题： 制作自定义镜像用于训练模型
图1 查看日志 父主题： 管理模型训练作业
如果设置为"true"，则在训练结束后，将损失曲线保存为图片 overwrite_output_dir true 是否覆盖输出目录。如果设置为"true"，则在每次训练开始时，都会清空输出目录，以便保存新的训练结果。
图1 获取镜像列表 对象存储服务 对象存储服务（Object Storage Service，OBS）是一个基于对象的海量存储服务，为客户提供海量、安全、高可靠、低成本的数据存储能力。 在使用ModelArts时存在与OBS的数据交互，您需要使用的数据可以存储至OBS。
wf.steps.JobStep( name="training_job", # 训练节点的名称，命名规范(只能包含英文字母、数字、下划线（_）、中划线（-），并且只能以英文字母开头，长度限制为64字符)，一个Workflow里的两个step名称不能重复 title="图像分类训练
具体流程图如下： 图1 多机多卡数据并行训练 代码改造点 引入多进程启动机制：初始化进程 引入几个变量：tcp协议，rank进程序号，worldsize开启的进程数量 分发数据：DataLoader中多了一个Sampler参数，避免不同进程数据重复 模型分发：DistributedDataParallel
图1 等待模型载入 训练完成后，生成的权重文件保存路径为：/mnt/sfs_turbo/llm_train/saved_dir_for_output/llama2-13b/saved_models/。 最后，请参考查看日志和性能章节查看lora微调的日志和性能。
图1 等待模型载入 训练完成后，生成的权重文件保存路径为：/mnt/sfs_turbo/llm_train/saved_dir_for_output/llama2-13b/saved_models/。 最后，请参考查看日志和性能章节查看lora微调的日志和性能。
图1 等待模型载入 训练完成后，生成的权重文件保存路径为：/mnt/sfs_turbo/llm_train/saved_dir_for_output/llama2-13b/saved_models/。 最后，请参考查看日志和性能章节查看sft微调的日志和性能。
图1 等待模型载入 训练完成后，生成的权重文件保存路径为：/mnt/sfs_turbo/llm_train/saved_dir_for_output/llama2-13b/saved_models/。 最后，请参考查看日志和性能章节查看预训练的日志和性能。
图1 等待模型载入 训练完成后，生成的权重文件保存路径为：/mnt/sfs_turbo/llm_train/saved_dir_for_output/llama2-13b/saved_models/。 最后，请参考查看日志和性能章节查看lora微调的日志和性能。
图1 等待模型载入 训练完成后，生成的权重文件保存路径为：/mnt/sfs_turbo/llm_train/saved_dir_for_output/llama2-13b/saved_models/。 最后，请参考查看日志和性能章节查看sft微调的日志和性能。
图1 等待模型载入 训练完成后，生成的权重文件保存路径为：/mnt/sfs_turbo/llm_train/saved_dir_for_output/llama2-13b/saved_models/。 最后，请参考查看日志和性能章节查看sft微调的日志和性能。
图1 训练输出设置 断点续训练建议和训练容错检查（即自动重启）功能同时使用。在创建训练作业页面，开启“自动重启”开关。训练环境预检测失败、或者训练容器硬件检测故障、或者训练作业失败时会自动重新下发并运行训练作业。
图1 等待模型载入 训练完成后，生成的权重文件保存路径为：/mnt/sfs_turbo/llm_train/saved_dir_for_output/llama2-13b/saved_models/。 最后，请参考查看日志和性能章节查看预训练的日志和性能。
图1 等待模型载入 训练完成后，生成的权重文件保存路径为：/mnt/sfs_turbo/llm_train/saved_dir_for_output/llama2-13b/saved_models/。 最后，请参考查看日志和性能章节查看预训练的日志和性能。
支持自定义交叉熵融合算子，满足BMTrain框架训练性能要求 优化PageAttention算子，满足vllm投机推理场景 支持CopyBlocks算子，满足vllm框架beam search解码场景 支持AdvanceStep算子，满足vllm投机推理场景 多个融合算子支持PTA图模式适配
图2 监控界面 至此，监控插件已经安装完成，相关指标的采集可以在UI界面直接查看或者根据指标值配置相关告警。 父主题： 监控Lite Server资源
图1 等待模型载入 训练完成后，生成的权重文件保存路径为：/mnt/sfs_turbo/llm_train/saved_dir_for_output/llama2-13b/saved_models/。 最后，请参考查看日志和性能章节查看预训练的日志和性能。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
