检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
使用AWQ量化工具转换权重 AWQ(W4A16)量化方案能显著降低模型显存以及需要部署的卡数。降低小batch下的增量推理时延。支持AWQ量化的模型列表请参见支持的模型列表和权重文件。 本章节介绍如何在Notebook使用AWQ量化工具实现推理量化，量化方法为per-group。
训练启动脚本说明和参数配置 本代码包中集成了不同模型（包括llama2、llama3、Qwen、Qwen1.5 ......）的训练脚本，并可通过不同模型中的训练脚本一键式运行。训练脚本可判断是否完成预处理后的数据和权重转换的模型。如果未完成，则执行脚本，自动完成数据预处理和权重转换的过程
ECS获取基础镜像 Step1 登录ECS服务器 根据创建ECS服务器创建完成ECS服务器后，单击“远程登录”，可使用华为CloudShell远程登录。后续安装Docker、获取镜像、构建镜像等操作均在该ECS上进行。 Step2 创建镜像组织 在SWR服务页面创建镜像组织。 图1
推理服务性能评测 语言模型推理性能测试 多模态模型推理性能测试 父主题： 主流开源大模型基于Lite Server适配Ascend-vLLM PyTorch NPU推理指导（6.3.912）
常见错误原因和解决方法 显存溢出错误 网卡名称错误 保存ckpt时超时报错 mc2融合算子报错 父主题： 主流开源大模型基于Standard+OBS+SFS适配ModelLink PyTorch NPU训练指导（6.3.912）
常见错误原因和解决方法 显存溢出错误 网卡名称错误 父主题： 主流开源大模型基于Standard+OBS+SFS适配ModelLink PyTorch NPU训练指导（6.3.911）
配置流水线构建任务 场景一：使用Jenkins构建生成的是软件包，如Jar包，就使用脚本中的软件包部署场景，软件包部署会将构建出来的软件包上传到OBS桶中并升级ServiceStage组件。 场景二：使用Jenkins构建生成的是镜像包，就使用脚本中的镜像部署场景，镜像部署会将构建出来的镜像包上传到
验证全链路灰度结果 访问灰度泳道实例 打开cmd命令，执行以下命令访问灰度泳道unit-controller组件提供的服务： curl -H "type:gray" http://${网关访问地址}/unit-controller/hello 网关访问地址取值，请参考查看应用网关信息
订购直播端口后，使用直播服务还需订购直播间观看人数，请前往购买。 会议硬件 联系客服热线4000-955-988或950808，转1，专业客服会为您推荐合适的华为云会议硬件终端。
您可以提交工单联系华为云技术客服，获取各平台对应的Demo进行体验。 父主题： 产品咨询
为保护华为云平台的安全，所有进入华为云的流量必须开启防护策略。 父主题： 基本功能类
概述 物联网平台作为一个跨行业的通用平台，面向广大的企业用户，支持不同行业、不同类型的应用接入，对设备访问有严格权限管理，每个用户、应用只能对自己创建的资源有访问权限，默认不能访问其他用户、应用创建的资源。
使用前必读 轻应用构建平台是圆桌提供的零/低码应用构建平台，企业IT通过拖、拉、拽即可快速搭建应用，实现特定业务场景下的业务需求，同时构建者还可以将搭建的应用上架到应用中心，交易给其他用户。以下提供轻应用构建平台基本概念。
升级方式均为将软/固件包上传到物联网平台或者关联用户OBS上的对象，设备从物联网平台或用户OBS获取软/固件包实现远程升级。 平台支持从第三方服务器下载软/固件包吗？ 不支持。
配置防火墙注册到华为乾坤云平台。 单击“系统 > 管理员 > 设置”，单击“北向接口配置”模块中“Call-home主动注册”中的“新建”，填写华为乾坤云平台的IP地址/URL地址和端口信息等。
防火墙与华为乾坤云平台建立连接以及被平台纳管的过程如图1所示。 图1 防火墙与平台建立连接和纳管过程 防火墙向注册查询中心查询华为乾坤云平台的域名和端口信息。
配置防火墙注册到华为乾坤云平台。 单击“系统 > 管理员 > 设置”，单击“北向接口配置”模块中“Call-home主动注册”中的“新建”，填写华为乾坤云平台的IP地址/URL地址和端口信息等。
NTP数据规划 AR设备上报性能数据时，会携带时间戳，如果AR的时间和华为乾坤云平台不一致，则会导致管理员在查看该设备的性能数据时，性能数据的时间与实际不符，站点流量和质量数据无法显示。所以华为乾坤云平台通过配置NTP，使站点设备和华为乾坤云平台的时间保持一致。
数据包筛选* 数据包需包含符合平台要求的传感器数据文件。详细请参考上传数据格式。平台最多支持不超过10个有效数据包。
注册X.509证书认证的设备前，您需要先在物联网平台上传设备的CA证书，然后在注册设备时将设备证书同设备进行绑定。本文介绍如何在物联网平台上传设备CA证书，以及注册X.509证书认证的设备。 限制说明 当前只有通过MQTT接入的设备支持使用X.509证书进行设备身份认证。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
