检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
准备数据（可选） 此小节为自定义数据集执行过程，如非自定义数据集此小节忽略。 本教程使用到的是LLamaFactory代码包自带数据集。您也可以自行准备数据集，目前支持alpaca格式和sharegpt格式的微调数据集；使用自定义数据集时，请更新代码目录下data/dataset_info
执行预训练任务 步骤一 上传训练权重文件和数据集 如果在准备代码和数据阶段已经上传权重文件和数据集到容器中，可以忽略此步骤。 如果未上传训练权重文件和数据集到容器中，具体参考上传代码和权重文件到工作环境和上传数据到指定目录章节完成。训练脚本中会自动执行训练前的权重转换操作和数据处理操作。
准备镜像环境 准备训练模型适用的容器镜像，包括获取镜像地址，了解镜像中包含的各类固件版本，配置物理机环境操作。 镜像地址 本教程中用到的训练和推理的基础镜像地址和配套版本关系如下表所示，请提前了解。 表1 基础容器镜像地址 镜像用途 镜像地址 基础镜像 swr.cn-southwest-2
准备镜像环境 准备训练模型适用的容器镜像，包括获取镜像地址，了解镜像中包含的各类固件版本，配置物理机环境操作。 镜像地址 本教程中用到的训练和推理的基础镜像地址和配套版本关系如下表所示，请提前了解。 表1 基础容器镜像地址 镜像用途 镜像地址 基础镜像 swr.cn-southwest-2
训练精度测试 流程图 训练精度测试流程图如下图所示： 图1 训练精度测试流程图 执行训练任务 进入test-benchmark目录执行训练命令，可以多次执行，按自己实际情况。 benchmark-cli train <cfgs_yaml_file> <model_name> <run_type>
准备镜像环境 准备训练模型适用的容器镜像，包括获取镜像地址，了解镜像中包含的各类固件版本，配置物理机环境操作。 镜像地址 本教程中用到的训练和推理的基础镜像地址和配套版本关系如下表所示，请提前了解。 表1 基础容器镜像地址 镜像用途 镜像地址 基础镜像 swr.cn-southwest-2
使用AWQ量化 AWQ(W4A16)量化方案能显著降低模型显存以及需要部署的卡数。降低小batch下的增量推理时延。支持AWQ量化的模型列表请参见支持的模型列表和权重文件。 本章节介绍如何使用AWQ量化工具实现推理量化。 量化方法：W4A16 per-group/per-channel，W8A16
分离部署推理服务 本章节介绍如何使用vLLM 0.6.3框架部署并启动推理服务。 什么是分离部署 大模型推理是自回归的过程，有以下两阶段： Prefill阶段（全量推理） 将用户请求的prompt传入大模型，进行计算，中间结果写入KVCache并推出第1个token，属于计算密集型。
附录：大模型推理常见问题 问题1：在推理预测过程中遇到NPU out of memory 解决方法：调整推理服务启动时的显存利用率，将--gpu-memory-utilization的值调小。 问题2：在推理预测过程中遇到ValueError:User-specified max_model_len
在SLB中创建灰度服务 本文介绍如何创建灰度服务。 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限，权限申请操作请参见申请权限。 创建灰度服务 进入AppStage运维中心。 在顶部导航栏选择服务。 单击，选择“微服务开发 > 负载均衡”。 选择左侧导航栏的“灰度管理
在WiseDBA中申请数据库账号 需要临时执行SQL语句时，可申请临时账号处理，本文介绍如何申请账号。 前提条件 需要具备AppStage服务运维岗位权限、运维管理员权限或基础运维岗位权限，权限申请操作请参见AppStage组织成员申请权限。 申请账号 进入AppStage运维中心。
在WiseDBA中查看数据库性能指标 数据库诊断服务提供多种性能指标选择，帮助业务在日常巡检、问题定位、压测、大促时，实时确认数据库性能。支持对TaurusDB、GeminiDB(for Cassandra)及GaussDB类型数据库进行性能诊断。 前提条件 已在监控服务中完成数
在WiseDBA中查询数据库对象统计信息 支持对GaussDB数据库进行表对象统计和索引对象统计。 查询对象统计 进入AppStage运维中心。 在顶部导航栏选择服务。 单击，选择“微服务开发 > 数据库治理”。 选择左侧导航栏的“实时诊断”。 在左侧树中选择目标数据库类型以及目标节点，选择“对象统计”页签。
解绑公网IP 已绑定公网IP的微服务引擎专享版，可通过解绑公网IP取消公网访问引擎的能力。 解绑公网IP 登录ServiceStage控制台，选择“微服务引擎 > 引擎实例”。 在页面上方“微服务引擎”下拉列表，选择待操作的微服务引擎。 在“网络配置 & 安全”区域，单击“解绑公网IP”。
会中邀请他人 会议中主持人和普通与会者可以通过与会者界面、分享会议详情、呼叫未入会成员的方式邀请他人入会。 注意事项 主持人可以锁定会议，锁定后仅可通过主持人邀请入会，未被邀请人员无法主动入会。 从通讯录邀请会议终端，需要企业管理员先添加会议终端到华为云会议管理平台。 通过与会者界面邀请与会者
删除订阅 接口说明 应用服务器可调用此接口删除物联网平台中的指定订阅配置。 URI 请求方法 DELETE URI /v5/iot/{project_id}/subscriptions/{subscription_id} 传输协议 HTTPS 请求参数 名称 必选/可选 类型 位置
AXB模式绑定接口 接口功能 该接口用于客户向隐私保护通话平台设置用户A、隐私号码X和用户B之间的绑定关系。 请求方向 客户应用（客户端） → 隐私保护通话平台（服务端） 使用说明 前提条件 已创建隐私保护通话应用，获取了APP_Key，APP_Secret和APP接入地址。 已申请到隐私保护号码。
功能咨询 企业门户网站推广的效果怎么样？ 企业门户目前暂不支持网站推广业务，但是提供SEO优化承载功能，通过SEO功能可以让网站的关键词被搜索引擎收录并在搜索结果中排名靠前，从而使网站得到更多精准的访问流量以便更好的推广。 许多客户使用这个功能的优化效果还不错，比如“宝珍堂”和“九道广告”。
云日志服务(LTS) 云日志服务（Log Tank Service，简称LTS）是高性能、低成本、功能丰富、高可靠的日志平台，提供全栈日志采集、百亿日志秒搜、PB级存储、日志加工、可视化图表、告警和转储等功能，满足应用运维、等保合规和运营分析等应用场景需求。 云日志服务提供多种接
从这里开始 进入华为云WeLink官网下载页面，下载最新版Windows端WeLink。 最低配置要求 对Windows系统要求 表1 最低配置 组件 要求 操作系统 Windows7：32位/64位 Windows8：32位/64位 Windows10：32位/64位 CPU Intel
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
