检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
本章节介绍如何在GPU的机器上使用开源量化工具llm-compressor量化模型权重，然后在NPU的机器上实现推理量化。 具体操作如下： 开始之前，请确保安装了以下库： git clone https://github.com/vllm-project/llm-compressor.git cd llm-compressor
py脚本进行权重转换生成量化系数，详细参数解释请参见https://github.com/NVIDIA/TensorRT-LLM/tree/main/examples/llama#int8-kv-cache。 python convert_checkpoint.py \ --model_dir
如何下载录音文件？ 通过华为平台推送话单中的recordObjectName和recordDomain调用获取录音文件下载地址API，再通过获取的地址下载录音文件。 注：若华为平台推送的调测信息中有特殊说明，请直接使用FeeInfo（话单通知）中recordFileDownloadUrl的链接下载录音文件。
"APIG.1002", "error_msg" : "Incorrect token or token resolution failed" } 状态码： 403 Forbidden { "error_code" : "APIG.1005", "error_msg"
"error_code" : "FDI.3016", "error_msg" : "Failed to test the connectivity.", "detail" : "Test connection failed." } 状态码 状态码 描述 200 OK 400 Error response
deploy_mode String 环境类型。 virtualmachine：虚拟机。 container：Kubernetes。 mixed ：虚拟机和Kubernetes。 vpc_id String 虚拟私有云ID。 base_resources Array of objects 基础资源。请参考表8。
常见问题 账号问题 初始化企业是什么？ 系统部署时，系统默认创建一个平台方账号（例如“某某集团”“某某企业”部署私有云，我方会默认创建一个“某某集团”的企业账号），该账号拥有系统门户、后台的所有权限。 如何添加企业员工账号？ 管理员登录门户进入企业中心，在员工管理中可添加员工账号，可单个或批量添加员工账号
等；应用软件可以根据设备的特点，提供不同的功能，比如采集数据、数据分析处理等。软件升级又称为SOTA（SoftWare Over The Air），是指用户可以通过OTA的方式支持对LWM2M协议的设备进行软件升级，软件升级协议为PCP协议。 本章节将介绍基于开发中心的软件升级将
执行人工抽检任务 前提条件 业务账号的职位必须是质检主管或质检员。 操作步骤 质检员使用分配的业务账号登录云客服。 选择“ 质检 > 我的质检任务”。 质检任务查询列表默认展示质检员参与的质检任务。 图1 质检任务列表 选择一条质检任务，单击“查看”，展示质检任务的基本任务详情列表。
消息发送方 边设备 消息接收方 物联网平台 参数说明 字段名 必选/可选 类型 参数描述 devices 必选 DeviceS[] 设备数据。 DeviceS结构体说明 字段名 必选/可选 类型 参数描述 deviceId 必选 String(256) 平台生成的设备唯一标识，对应设备客户端ID。
语音通话平台发送的通知信息。 提供话单接收URL有以下两种方式： 提前通过应用管理向语音通话平台提交话单接收URL。 SP应用调用场景API时，填写feeUrl参数。 注意事项 若平台给SP推送话单后未收到成功响应，视为推送失败，会重新推送话单，直至客户返回成功响应。平台最多重推
CDN集成配置服务 华为云组织专家跟客户详细了解需求，并确认交付目标。 华为云设计配置方案。 项目正式开始，华为云专家进行配置工作。 客户签署验收报告，完成验收，服务交付。 CDN运维保障服务 一次性产品 华为云组织专家跟客户详细了解需求，并确认交付目标。 华为云设计运维支撑保障方案。
> Java Class”，在“Name”中输入“Main”单击“OK”，完成“Main”文件创建。 图14 新建Class 配置Class。 创建完成后，打开“Main”文件，添加“public static void main(String[] args)”。 图15 设置Class的配置
调用API访问在线服务时，对预测请求体大小和预测时间有限制： 请求体的大小不超过12MB，超过后请求会被拦截。 因APIG（API网关）限制，平台每次请求预测的时间不超过40秒。 获取AK/SK 如果已生成过AK/SK，则可跳过此步骤，找到原来已下载的AK/SK文件，文件名一般为：credentials
API调用示例调用API。 前提条件 已获取API的调用信息，具体请参见开发准备。 安装openssl库。 apt-get install libssl-dev 安装curl库。 apt-get install libcurl4-openssl-dev 获取SDK 旧版界面：登录ROMA
基于Kubernetes构建一个端到端的AI计算平台是非常复杂和繁琐的过程，它需要处理很多个环节。如图1所示，除了熟知的模型训练环节之外还包括数据收集、预处理、资源管理、特性提取、数据验证、模型的管理、模型发布、监控等环节。对于一个AI算法工程师来讲，如果要做模型训练，就不得不搭建一套AI计算平台，这个过程耗时费力，而且需要很多的知识积累。
url_domains Array of UrlDomain objects 分组上绑定的独立域名列表 sl_domain_access_enabled Boolean 调试域名是否可以访问，true表示可以访问，false表示禁止访问 缺省值：true sl_domains Array
1X认证时，大量用户认证失败。 MAC认证时，大量用户认证失败。 可能的原因 认证控制点设备与华为乾坤云平台网络不通。 配置不正确。 处理步骤 以租户帐号登录华为乾坤控制台。 检查认证控制点设备与华为乾坤云平台是否通信正常。 单击“资源中心 > 设备管理”，在设备列表中，找到并单击认证控制点设备的设备名称。
重启。 设备获取IP地址后，会尝试通过DHCP option 148与华为乾坤云平台通信。 等待设备注册至华为乾坤云平台，开局成功。 父主题： 配置举例：交换机通过DHCP Option148方式上云（堆叠场景）
通过设置自定义以逃生策略保证用户基本的网络访问需求，根据用户需求选择。本案例中选择“允许用户接入，不需要认证”。 配置页面规则 当使用云管理平台作为Portal服务器时，需要配置页面规则。云管理平台根据页面规则给终端用户推送指定的Portal页面。 单击“添加 > 创建”，创建一个新的页面规则。 在弹出窗
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
