检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
推理性能测试 语言模型推理性能测试 多模态模型推理性能测试 父主题： 主流开源大模型基于Server适配PyTorch NPU推理指导（6.3.909）
推理性能测试 语言模型推理性能测试 多模态模型推理性能测试 父主题： 主流开源大模型基于Server适配PyTorch NPU推理指导（6.3.910）
准备镜像 镜像版本 本教程中用到基础镜像地址和配套版本关系如下表所示，请提前了解。 表1 基础容器镜像地址 镜像用途 镜像地址 配套版本 基础镜像 swr.cn-southwest-2.myhuaweicloud.com/atelier/pytorch_2_1_ascend:pytorch_2
推理性能测试 语言模型推理性能测试 多模态模型推理性能测试 父主题： 主流开源大模型基于Server适配PyTorch NPU推理指导（6.3.911）
SFT全参微调训练 前提条件 已上传训练代码、训练权重文件和数据集到OBS中，具体参考代码上传至OBS。 Step1 创建训练任务 创建训练作业，并自定义名称、描述等信息。选择自定义算法，启动方式自定义，以及选择上传的镜像。 代码目录选择：OBS桶路径下的llm_train/AscendSpeed代码目录。
根据配置文件ID获取配置文件历史 功能介绍 此API用于通过配置文件ID获取配置文件历史。 URI GET /v3/{project_id}/cas/configs/{config_id}/histories 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是
根据service_id查询微服务实例 功能介绍 实例注册后可以根据service_id发现该微服务的所有实例。 URI GET /v4/{project_id}/registry/microservices/{service_id}/instances 表1 路径参数 参数 是否必选
人工标注图片数据 由于模型训练过程需要大量有标签的图片数据，因此在模型训练之前需对没有标签的图片添加标签。您可以通过手工标注或智能一键标注的方式添加标签，快速完成对图片的标注操作，也可以对已标注图片修改或删除标签进行重新标注。 针对图像分类场景，开始标注前，您需要了解： 图片标注支持多标签，即一张图片可添加多个标签。
人工标注视频数据 由于模型训练过程需要大量有标签的视频数据，因此在模型训练之前需对没有标签的视频添加标签。通过ModelArts您可对视频添加标签，快速完成对视频的标注操作，也可以对已标注视频修改或删除标签进行重新标注。 视频标注仅针对视频帧进行标注。 开始标注 登录ModelA
训练作业的自定义镜像制作流程 场景一：预置镜像满足ModelArts训练平台约束，但不满足代码依赖的要求，需要额外安装软件包。 具体案例参考使用预置镜像制作自定义镜像用于训练模型。 场景二：已有本地镜像满足代码依赖的要求，但是不满足ModelArts训练平台约束，需要适配。 具体案例参考已有镜像迁移至ModelArts用于训练模型。
管理工作流 登录ModelArts Studio大模型开发平台，进入所需空间。 在左侧导航栏中选择“Agent开发”，将跳转至Agent开发平台。 单击左侧导航栏“工作台”，在“工作流”页签中，鼠标右键单击工作流，进行工作流的复制、复制ID、删除。 父主题： 创建与管理工作流
学生学习兴趣不高，动手意愿不足； 学生的学习情况要有数据记录、可评价。 通过本方案实现的业务效果： 青软创新集团数字化人才培养方案以数字化平台为基础创新实训教学模式，从实训入手探索新工科建设，可助力高校实现： 助力教师实践教学 实训指导文件——掌握实训实施过程，提高实践教学能力
//docs.vllm.ai/en/latest/getting_started/quickstart.html。 以下服务启动介绍的是在线推理方式，离线推理请参见https://docs.vllm.ai/en/latest/getting_started/quickstart
单击“复制链接”，并将该链接分享给其他用户，用户可以在浏览器中通过此链接直接访问该对象。 通过浏览器访问对象，会强制下载对象，如果您希望被分享人可以在线预览对象，请参见如何在浏览器中在线预览OBS中的对象？ 单击“复制路径”，并将该路径分享给拥有对象所在桶权限的用户，用户可以在对应桶的对象列表页中部的对象搜
使用MQTT模拟器连接到平台，模拟设备上线。（模拟器使用请参考：使用MQTT.fx调测）。 等待一分钟左右后，前往Kafka控制台，选择“消息查询”，topic名称填写AOM中配置的topic，查询内容填写设备所在的资源空间ID，查看收到转发的设备总数指标中是否包含在线设备数的指标信息。
上报设备数据 接口功能 当直连设备（网关）有数据需要上报或者非直连设备上报数据到网关时，网关需要调用设备服务数据上报接口将数据上报到物联网平台。 上报设备数据接口的deviceId，requstId和serviceId由SDK组装为消息的header；servicePropert
100.3.7更新内容 1. Mac平台修复会中不显示自定义头像问题，体验更稳定。 父主题： 版本更新内容
云防火墙（Cloud Firewall，CFW） EIP 弹性公网IP（Elastic IP，EIP） DDoS原生基础防护服务（Anti-DDoS流量清洗，Anti-DDoS） 设备 用户线下设备资产 -- 说明： 资产信息同步至安全云脑后，在安全云脑控制台将展示资产的防护状态。防护状态说明如下：
已经在线下使用SAP资源多年，最近服务器老化需要更换，是否可以直接迁移到云上？ 可以。华为和SAP合作伙伴给客户提供端到端的服务，包括线下到线上的迁移服务，系统升级服务，ECC升级到S4，数据库更换服务（Oracle/DB2更换成HANA），系统上线后的运维服务，系统实施中的体验服务等，为客户端到端负责。
在节点部署应用后，节点由“在线”状态变为“离线”状态，或者导致其他应用“实例异常”？ 请检查节点内存占用情况，当节点内存不足时会导致docker容器被停止。$edge_hub容器停止会导致节点“离线”，其他容器停止会导致“实例异常”。 父主题： 应用管理
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
