检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
准备镜像环境 准备训练模型适用的容器镜像，包括获取镜像地址，了解镜像中包含的各类固件版本，配置物理机环境操作。 镜像地址 本教程中用到的训练和推理的基础镜像地址和配套版本关系如下表所示，请提前了解。 表1 基础容器镜像地址 镜像用途 镜像地址 基础镜像 swr.cn-southwest
这些编码通常由数字、字母或符号组成，具有一定的随机性和唯一性，可以用于各种需要标识唯一性的场合，如订单号、会员号、优惠券码等。 编码发生器可以根据不同的需求和规则生成不同类型的编码，如固定长度、可变长度、指定字符集、不重复等。
生产工单管理概述 基本概念 工单是指导生产部门按照预定的规格和要求生产特定数量产品的单据，也称为生产工单或生产订单。 生产工单管理是指对生产过程中所需的各个工单进行有效的计划、分配、跟踪和控制的过程。 有效的生产工单管理可以确保生产过程中的工单按时、按量、按质完成，从而满足客户需求
准备数据（可选） 此小节为自定义数据集执行过程，如非自定义数据集此小节忽略。 本教程使用到的是LLamaFactory代码包自带数据集。您也可以自行准备数据集，目前指令微调数据集支持alpaca格式和sharegpt格式的数据集；使用自定义数据集时，请更新代码目录下data/dataset_info.json
使用SmoothQuant量化 SmoothQuant(W8A8)量化方案能降低模型显存以及需要部署的卡数。也能同时降低首token时延和增量推理时延。支持SmoothQuant(W8A8)量化的模型列表请参见表3。 本章节介绍如何使用SmoothQuant量化工具实现推理量化。
附录：大模型推理常见问题 问题1：在推理预测过程中遇到NPU out of memory 解决方法：调整推理服务启动时的显存利用率，将--gpu-memory-utilization的值调小。 问题2：在推理预测过程中遇到ValueError:User-specified max_model_len
使用GPTQ量化 当前版本使用GPTQ量化仅支持W8A16 perchannel的量化形式，使用W8A16的量化不仅可以保证精度在可接受的范围内，同时也有一定的性能收益。 GPTQ W8A16量化支持的模型请参见支持的模型列表和权重文件。 本章节介绍如何在GPU的机器上使用开源GPTQ
在WiseDBA中查询数据库对象统计信息 支持对GaussDB数据库进行表对象统计和索引对象统计。 查询对象统计 进入AppStage运维中心。 在顶部导航栏选择服务。 单击，选择“微服务开发 > 数据库治理”。 选择左侧导航栏的“实时诊断”。 在左侧树中选择目标数据库类型以及目标节点
在SLB中初始配置灰度服务 灰度服务创建完成后，需要进行初始化配置。 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限，权限申请操作请参见申请权限。 初始配置灰度服务 进入AppStage运维中心。 在顶部导航栏选择服务。 单击，选择“微服务开发 > 负载均衡”。
在WiseDBA中申请数据库账号 需要临时执行SQL语句时，可申请临时账号处理，本文介绍如何申请账号。 前提条件 需要具备AppStage服务运维岗位权限、运维管理员权限或基础运维岗位权限，权限申请操作请参见AppStage组织成员申请权限。 申请账号 进入AppStage运维中心
在SLB中创建OLC服务 CPU过载控制OLC（Overload Control）是一种CPU过载调控机制。当CPU过载时，OLC能够对受监控协议报文和任务进行调控，通过不同优先级业务的合理规划和限制报文通过等方式，降低对CPU资源的消耗，并确保设备不会因为某种受监控协议或任务冲击
发布负载均衡OLC服务 OLC服务配置完成后，配置数据只是保存到数据库中，如需将OLC服务应用到SLB，还需要执行发布操作。 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限，权限申请操作请参见申请权限。 发布OLC服务 进入AppStage运维中心。 在顶部导航栏选择服务
已有镜像迁移至ModelArts用于训练模型 场景描述 本地已有镜像，需要做云上适配，用于ModelArts模型训练。 操作步骤 参考如下Dockerfile，修改已有镜像，使其符合模型训练的自定义镜像规范。 FROM {已有镜像} USER root # 如果已存在 gid
创建Workflow数据集节点 功能介绍 通过对ModelArts数据集能力进行封装，实现新版数据集的创建功能。主要用于通过创建数据集对已有数据（已标注/未标注）进行统一管理的场景，后续常见数据集导入节点或者数据集标注节点。 属性总览 您可以使用CreateDatasetStep来构建数据集创建节点
msprobe精度分析工具使用指导 msprobe是MindStudio Training Tools工具链下精度调试部分的工具包，其通过采集和对比标杆（GPU/CPU）环境和昇腾环境上运行训练时的差异点来判断问题所在，主要包括精度预检、精度比对和梯度监控等功能。更多内容请参考msprobe
基于aPaaS平台可快速搭建具有行业特性的管理平台。集单据插件开发、源码管理、项目构建及在线发布于一体的行业产品研发及项目交付平台，高生产力技术为企业商业模式的持续创新提供了保障。实时收集和分析道路检查点数据。实时统计每个道路检查点车辆信息，并实时计算哪些道路检查点车辆拥挤最多。
设置 上传：用于上传目标租户开放平台发布供用户使用。 目标租户：用户所在租户。 选择We码应用：支持选择当前租户下已创建的We码应用。 版本号：应用具体版本号，可同步至Welink开放平台应用版本号。 首页：显示默认首页，支持修改首页。单击编辑图标进入“首页画布”页面进行编辑。
最小值：1 最大值：50 缺省值：10 marker 否 String 上一次分页查询结果中最后一条记录的ID，在上一次分页查询时由物联网平台返回获得。分页查询时物联网平台是按marker也就是记录ID降序查询的，越新的数据记录ID也会越大。
400 认证失败 { "reserve" : null, "error_code" : "AUTH-600001", "error_msg" : "" } 状态码 状态码 描述 200 成功 400 认证失败 500 服务器内部异常 错误码 请参见错误码。
DELIVERED，平台收到设备响应，命令已到达设备 SUCCESS，平台收到命令结果上报，且上报的结果是成功 FAIL，平台收到命令结果上报，且上报的结果是失败 resultDetail 必选 ObjectNode body 设备上报命令结果上报时，携带的自定义字段 响应参数
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
