检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
查看微服务的依赖关系 本文介绍通过管理台查看及删除微服务的依赖关系。 查看微服务依赖的服务 进入AppStage运维中心。 在顶部导航栏选择服务。 单击，选择“微服务开发 > 服务发现”。 选择左侧导航栏的“服务目录 > 一方服务”。 选择“微服务列表”页签，单击微服务列表中的微服务名。
数据库治理（WiseCloudDBAService，WiseDBA）是一站式数据库管理平台，为用户提供数据库台账、SQL变更、数据查询、数据库风险诊断等功能。 功能介绍 数据库管理 WiseDBA为用户提供统一的数据库管理平台，支持用户级的管理、监控、可视化的数据库交互等功能，为用户节省50%以上的管理成本，提高数据库运维效率。
在WiseDBA中创建Schema 本节介绍如何通过WiseDBA创建Schema。 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限，权限申请操作请参见申请权限。 创建Schema 进入AppStage运维中心。 在顶部导航栏选择服务。 单击，选择“微服务开发
新增数据库SDK配置并注册到Cloud Map 创建数据库连接时，传统的做法是在配置文件中配置用户名、密码等连接信息，通过调用SDK连接数据库。WiseDBA管理台提供SDK配置功能，支持在WiseDBA管理台配置连接信息，并注册到Cloud Map中，在创建数据库连接时，直接调用Cloud
同一个实例中，为什么看到的数据跟其他人看到的不一样？ ROMA Connect对用户资源实现了严格的权限管理。 在同一实例内，用户只能查看和管理自己创建的集成应用和资源，默认不能查看其他用户创建的集成应用和资源。 用户可以通过集成应用授权的方式，把集成应用下的资源共享给同一账号下的其他用户来查看和使用。
查询自定义认证列表 功能介绍 查询自定义认证列表 URI GET /v1/{project_id}/apic/instances/{instance_id}/authorizers 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String 项目ID，获取方式请参见API参考的“附录
用户管理（边缘云） 管理部署在边缘云上的MBM Space的用户信息。支持添加用户、重置密码等操作。 前提条件 已使用超级管理员角色登录MBM Space。 添加用户 在顶部导航栏中，选择“系统管理 > 用户权限 > 用户管理”。 进入“用户管理”页面。 单击“新增”。 在弹出的“新增用户”窗口中，填写表1相关信息。
训练的权重转换说明 以llama2-13b举例，使用训练作业运行0_pl_pretrain_13b.sh脚本。脚本同样还会检查是否已经完成权重转换的过程。 如果已完成权重转换，则直接执行预训练任务。如果未进行权重转换，则会自动执行scripts/llama2/2_convert_mg_hf
SFT全参微调训练任务 步骤一 上传训练权重文件和数据集 如果在准备代码和数据阶段已经上传权重文件和数据集到容器中，可以忽略此步骤。 如果未上传训练权重文件和数据集到容器中，具体参考上传代码和权重文件到工作环境和上传数据到指定目录章节完成。训练脚本中会自动执行训练前的权重转换操作和数据处理操作。
使用kv-cache-int8量化 kv-cache-int8是实验特性，在部分场景下性能可能会劣于非量化。当前支持per-tensor静态量化，支持kv-cache-int8量化和FP16、BF16、AWQ、smoothquant的组合。 kv-cache-int8量化支持的模型请参见支持的模型列表和权重文件。
ed文件夹中。下载后的源码文件结构如下： AscendSpeed/ |──ascendcloud_patch/ # 针对昇腾云平台适配的功能补丁包 |──scripts/ # 训练需要的启动脚本 |——src/
常见错误原因和解决方法 显存溢出错误 网卡名称错误 保存ckpt时超时报错 父主题： 主流开源大模型基于DevServer适配ModelLink PyTorch NPU训练指导（6.3.910）
从OBS目录导入数据规范说明 导入数据集时，使用存储在OBS的数据时，数据的存储目录以及文件名称需满足ModelArts的规范要求。 当前只有“图像分类”、“物体检测”、“图像分割”、“文本分类”和“声音分类”标注类型支持按标注格式导入。 其中，“表格”类型的数据集，支持从OBS
创建声音分类项目 ModelArts自动学习，包括图像分类、物体检测、预测分析、声音分类和文本分类项目。您可以根据业务需求选择创建合适的项目。您需要执行如下操作来创建自动学习项目。 创建项目 登录ModelArts管理控制台，在左侧导航栏单击“开发空间>自动学习”，进入新版自动学习页面。
标注文本分类数据 项目创建完成后，将会自动跳转至新版自动学习页面，并开始运行，当数据标注节点的状态变为“等待操作”时，需要手动进行确认数据集中的数据标注情况，也可以对数据集中的数据进行标签的修改，数据的增加或删减。 图1 数据标注节点状态 双击“数据标注”节点，单击实例详情按钮，打开数据标注页面。
创建Workflow数据集导入节点 功能介绍 通过对ModelArts数据集能力进行封装，实现数据集的数据导入功能。数据集导入节点主要用于将指定路径下的数据导入到数据集或者标注任务中，主要应用场景如下： 适用于数据不断迭代的场景，可以将一些新增的原始数据或者已标注数据导入到标注任
管理桥接器模板 当需要连接其它数据，以获得组件最佳的展示效果时，可通过自定义数据桥接器实现。自定义桥接器时，需要先下载桥接器模板，根据组件的数据结构，对桥接数据进行对接和改造。 查看桥接器模板 在AstroZero服务控制台，单击“进入首页”，进入应用开发页面。 在页面左上方单击，选择“环境管理
使用SmoothQuant量化工具转换权重 SmoothQuant(W8A8)量化方案能降低模型显存以及需要部署的卡数。也能同时降低首token时延和增量推理时延。支持SmoothQuant(W8A8)量化的模型列表请参见表1。 本章节介绍如何在Notebook使用SmoothQuant量化工具实现推理量化。
SFT全参微调训练任务 步骤1 上传训练权重文件和数据集 如果在准备代码和数据阶段已经上传权重文件和数据集到容器中，可以忽略此步骤。 如果未上传训练权重文件和数据集到容器中，具体参考上传代码和权重文件到工作环境和上传数据到指定目录章节完成。训练脚本中会自动执行训练前的权重转换操作和数据处理操作。
常见错误原因和解决方法 显存溢出错误 网卡名称错误 保存ckpt时超时报错 父主题： 主流开源大模型基于DevServer适配ModelLink PyTorch NPU训练指导（6.3.907）
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
