检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
从OBS解析文件到RDS数据库，采集过一次后，后面采集会进行更新吗？ 如果是采集同一个文件，每次在OBS上更新文件，目标端数据库有主键情况下，每次会根据主键更新数据。 如果是采集多个文件，目标端数据库有主键且主键相同的情况下，每次都会更新成时间最早的文件里的值，即数据内容没有变化。
配置微服务安全认证的账号名和密码 微服务引擎专享版开启编程接口安全认证后，需要对连接到该引擎的微服务组件开启编程接口安全认证。开启编程接口安全认证是通过配置安全认证账号名和密码的方式触发。目前支持通过配置文件配置方式和环境变量注入的方式。 由于账号和密码涉及安全问题，建议加密后使用
在SLB中配置黑白名单 黑名单对于请求进行一定筛选条件下的拒绝。 白名单相当于VIP，白名单上匹配的请求，将跳过黑名单以及流控规则限制。 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限，权限申请操作请参见申请权限。 配置黑白名单 进入AppStage运维中心。
调整微服务实例状态 上线实例 将离线的微服务调整为上线状态。上线实例将会让微服务实例接收流量，请确认后操作。 进入AppStage运维中心。 在顶部导航栏选择服务。 单击，选择“微服务开发 > 服务发现”。 选择左侧导航栏的“服务目录 > 一方服务”。 在一方服务页面，选择“微服务实例列表
在WiseDBA中新增数据库账号 纳管数据库实例时，系统会将原数据库root用户信息同步到WiseDBA，同时，系统还会创建默认的治理账号，默认的治理账号包括monitor账号（监控账号）、dbquery账号（数据查询账号）及change账号（SQL变更账号，随Schema同步创建
在WiseDBA中同步数据库账号 当业务数据库中新增账号时，通过同步账号功能可以将业务数据库中新增的账号同步到WiseDBA台账中。 注意事项 在WiseDBA台账中删除账号时，会将删除的账号放至回收站中，该账号仍存在于业务数据库中，此时如果执行同步操作，不会将业务数据库中的该账号同步至
在WiseDBA中复制数据库账号权限 通过复制账号权限功能，可以将数据库实例中的某个账号权限复制给另一个账号。 约束与限制 GaussDB和RDS for PostgreSQL数据库不支此功能。 businessWrite类型的账号权限仅可以复制给businessWrite类型的账号
读取MySQL的binlog时报“binlog probably contains events generated with statement or mixed based replication forma”错误 问题描述 组合任务运行失败，界面报错为binlog probably
克隆GitHub开源仓库文件到JupyterLab 在Notebook的JupyterLab中，支持从GitHub开源仓库Clone文件。 通过JupyterLab打开一个运行中的Notebook。 单击JupyterLab窗口上方导航栏的ModelArts Upload Files
MindStudio-Insight性能可视化工具使用指导 对于高阶的调优用户，可以使用可视化工具MindStudio Insight查看profiling数据详情并分析可优化点，其提供了丰富的调优分析手段，可视化呈现真实软硬件运行数据，多维度分析性能瓶颈点，支持百卡、千卡及以上规模的可视化集群性能分析
模型NPU卡数、梯度累积值取值表 不同模型推荐的训练参数和计算规格要求如表1所示。规格与节点数中的1*节点 & 4*Ascend表示单机4卡，以此类推。 表1 NPU卡数、加速框架、梯度配置取值表 模型 Template 模型参数量 训练策略类型 序列长度cutoff_len 梯度累积值
W4A16量化 大模型推理中，模型权重数据类型（weight），推理计算时的数据类型（activation）和kvcache一般使用半精度浮点FP16或BF16。量化指将高比特的浮点转换为更低比特的数据类型的过程。例如int4、int8等。 模型量化分为weight-only量化，
kv-cache-int8量化 什么是kv-cache-int8量化 kv-cache-int8是实验特性，在部分场景下性能可能会劣于非量化。 约束限制 当前支持per-token动态量化（推荐）， per-tensor静态量化以及per-tensor+per-head静态量化。
训练启动脚本说明和参数配置 本代码包中集成了不同模型的训练脚本，并可通过不同模型中的训练脚本一键式运行。训练脚本可判断是否完成预处理后的数据和权重转换的模型。如果未完成，则执行脚本，自动完成数据预处理和权重转换的过程。 如果用户进行自定义数据集预处理以及权重转换，可通过编辑 1_preprocess_data.sh
保存ckpt时超时报错 在多节点集群训练完成后，只有部分节点会保存权重，而其他节点会一直在等待通信。当等待时间超过36分钟时，会发生超时的错误。 图1 报错提示 解决方法 1. 需要保证磁盘IO带宽正常，可以在36分钟内将文件保存到磁盘。单个节点内，最大只有60G（实际应该在40G
训练启动脚本说明和参数配置 本代码包中集成了不同模型的训练脚本，并可通过不同模型中的训练脚本一键式运行。训练脚本可判断是否完成预处理后的数据和权重转换的模型。如果未完成，则执行脚本，自动完成数据预处理和权重转换的过程。 如果用户进行自定义数据集预处理以及权重转换，可通过编辑 1_preprocess_data.sh
断点续训和故障快恢说明 相同点 断点续训（Checkpointing）和故障快恢都是指训练中断后可从训练中一定间隔（${save-interval}）保存的模型（包括模型参数、优化器状态、训练迭代次数等）继续训练恢复，而不需要从头开始。 不同点 断点续训：可指定加载训练过程中生成的
单模型性能测试工具Mindspore lite benchmark 在模型精度对齐后，针对Stable Diffusion模型性能调优，您可以通过AOE工具进行自助性能调优，进一步可以通过profiling工具对于性能瓶颈进行分析，并针对性的做一些调优操作。 您可以直接使用benchmark
各个模型深度学习训练加速框架的选择 LlamaFactory框架使用两种训练框架： DeepSpeed和Accelerate都是针对深度学习训练加速的工具，但是它们的实现方式和应用场景有所不同。 DeepSpeed是一种深度学习加速框架，主要针对大规模模型和大规模数据集的训练。DeepSpeed
附录：基于vLLM不同模型推理支持最小卡数和最大序列说明 基于vLLM（v0.6.0）部署推理服务时，不同模型推理支持的最小昇腾卡数和对应卡数下的max-model-len长度说明，如下面的表格所示。 以下值是在gpu-memory-utilization为0.9时测试得出，为服务部署所需的最小昇腾卡数及该卡数下推荐的最大
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
