检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
主流开源大模型基于Lite Cluster适配PyTorch NPU推理指导（6.3.911） 推理场景介绍 准备工作 部署推理服务 推理性能测试 推理精度测试 推理模型量化 Eagle投机小模型训练 附录：基于vLLM不同模型推理支持最小卡数和最大序列说明 附录：大模型推理常见问题
性能调优 Profiling数据采集 使用Advisor工具分析生成调优建议 调优前后性能对比 父主题： Dit模型Pytorch迁移与精度性能调优
PyTorch迁移精度调优 精度问题概述 精度调优总体思路 精度调优前准备工作 msprobe精度分析工具使用指导 父主题： GPU训练业务迁移至昇腾的通用指导
主流开源大模型基于Standard+OBS适配ModelLink PyTorch NPU训练指导（6.3.908） 场景介绍 准备工作 预训练 SFT全参微调训练 LoRA微调训练 查看日志和性能 训练脚本说明 常见错误原因和解决方法 父主题： LLM大语言模型训练推理
准备工作 准备资源 准备权重 准备代码 准备镜像 准备Notebook 父主题： 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.907）
主流开源大模型基于DevServer适配PyTorch NPU训练指导（6.3.906） 场景介绍 准备工作 预训练任务 SFT全参微调训练任务 LoRA微调训练 查看日志和性能 训练脚本说明 父主题： LLM大语言模型训练推理
主流开源大模型基于DevServer适配PyTorch NPU推理指导（6.3.905） 推理场景介绍 部署推理服务 推理性能测试 推理精度测试 附录：大模型推理常见问题 父主题： LLM大语言模型训练推理
主流开源大模型基于DevServer适配PyTorch NPU训练指导（6.3.905） 场景介绍 准备工作 预训练任务 SFT全参微调训练任务 LoRA微调训练 查看日志和性能 训练脚本说明 父主题： LLM大语言模型训练推理
主流开源大模型基于DevServer适配PyTorch NPU推理指导（6.3.908） 推理场景介绍 部署推理服务 推理性能测试 推理精度测试 推理模型量化 附录：基于vLLM不同模型推理支持最小卡数和最大序列说明 附录：大模型推理常见问题 父主题： LLM大语言模型训练推理
准备工作 准备资源 准备权重 准备代码 准备镜像 准备Notebook 父主题： 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.908）
准备工作 准备资源 准备权重 准备代码 准备镜像 准备Notebook 父主题： 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.909）
准备工作 准备资源 准备权重 准备代码 准备镜像 准备Notebook 父主题： 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.910）
资源空间 指在物联网平台中为您的业务划分的一个资源空间，您在平台中创建的资源（如产品、设备等）都需要归属到某个资源空间，您可以基于资源空间实现多业务应用的分域管理。 物联网平台允许用户最多创建10个资源空间，并默认首次开通服务时平台为用户自动创建的空间为默认资源空间。 创建资源空
留。 - 重部署：通过更换为新服务器实现修复，修复耗时较短，本地盘数据会丢失。 修复期间实例将无法工作，请确保相关实例业务已离线。如果云服务器上的业务不可停止，请勿修复，并联系技术支持进行处理。 若选择了重部署修复方式，实例会立即关机并迁移到新服务器，本地盘数据会被清空，请提前做好业务迁移和数据备份。
服务管理：创建、查看、编辑、删除、发布、同步或下线服务相关信息，详细介绍请参见服务管理。 微服务管理：创建、查看、编辑、删除、发布、同步或下线微服务相关信息，详细介绍请参见微服务管理。 4 平台服务 进入AppStage的AI原生应用引擎、开发中心、运维中心、运营中心的快捷入口。用户需要申请不同中心的
如果业务已经执行完毕，终止呼叫API会返回失败。 图1 终止呼叫体验流程 终止呼叫体验描述： 用户A、B正在通话，SP调用终止呼叫API。 语音通话平台将用户A挂机。 语音通话平台将用户B挂机。 用户A、B通话终止。 使用说明 前提条件 已通过“应用管理”页面获取应用的APP_Key，APP_Secret和APP接入地址。
是否在业务相关操作给用户发送邮件。 单选。 如果配置为“是”，需要参考邮件的配置配置。 是否发送短信 是否在业务相关操作给用户发送短信。 单选。 如果配置为“是”，需要参考短信的配置配置。 存储服务 系统存储连接器类型 资产提供方上传资产时，需要保存资产的相关文件，因此需要用到存储。 直接在文本框里输入类型：
设备接入服务如何获取设备数据？ 设备接入服务获取设备数据，需要通过规则引擎，将数据转发至其他服务获取。例如转发至OBS存储，转发至DIS或DMS后再发送至应用服务器。 需要注意的是设备接入服务不解析数据，若设备采用二进制上报数据，则平台进行码流base64封装后再转发。 父主题：
# 基于AscendSpeed的训练代码 |──ascendcloud_patch/ # 针对昇腾云平台适配的功能补丁包 |──scripts/ # 训练需要的启动脚本
xml配置，上下文路径是"/"，没有指定应用路径。如需自定义应用路径，请参考定制Tomcat Context path。 单击“确定”。 云服务配置 “YAML模式”选择关闭时，请参考管理容器部署组件云服务配置，根据您的实际业务需要进行设置。 容器配置 “YAML模式”选择关闭时，请参考管理容器部署组件容器配置，根据您的实际业务需要进行设置。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
