检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
主流开源大模型基于DevServer适配PyTorch NPU推理指导(6.3.905) 推理场景介绍 部署推理服务 推理性能测试 推理精度测试 附录:大模型推理常见问题 父主题: LLM大语言模型训练推理
PyTorch迁移性能调优 性能调优总体原则和思路 MA-Advisor性能调优建议工具使用指导 MindStudio-Insight性能可视化工具使用指导 父主题: GPU训练业务迁移至昇腾的通用指导
创建和管理监听 (可选)录入HTTPS监听所需的服务器证书 在SLB中创建监听 将监听配置同步到SLB节点 在SLB中配置监听共享 父主题: 配置运维中心负载均衡
堆体测量整体方案怎么组成的,交付方式是什么? 整体方案分为三个部分: 堆体测量云服务:华为云堆体测量云服务通过云端或者本地算力快速完成三维重建及体积空间数据计算。 激光雷达硬件:现场安装雷达硬件用于自动化采集堆体数据并上传云端或者本地计算平台。 数据可视化集成:最终的空间数据将集成在客户的业务系统中。
开始安装 安装完成后请重启中间件 进入服务器的登录界面 图6 登录界面 管理员admin,初始密码为admin。 父主题: EsMDM主数据管理平台
创建/配置/执行流水线 流水线是一个可视化的自动化任务调度平台,需要配置编译构建自动化任务(包括添加业务包构建、IaC自动部署包构建任务)才可完整使用,对这些自动化任务进行自定义编排后,一次配置后即可一键自动化触发调度执行,最终生成代码构建产物,避免频繁低效的手工操作。 前提条件
主流开源大模型基于Lite Cluster适配ModelLink PyTorch NPU训练指导(6.3.911) 场景介绍 准备工作 预训练任务 SFT全参微调训练任务 LoRA微调训练 查看日志和性能 训练脚本说明 常见错误原因和解决方法 父主题: LLM大语言模型训练推理
主流开源大模型基于Lite Server适配LlamaFactory PyTorch NPU训练指导(6.3.912) 场景介绍 准备工作 执行训练任务 查看日志和性能 训练benchmark工具 训练脚本说明 附录:训练常见问题 父主题: LLM大语言模型训练推理
主流开源大模型基于Lite Cluster适配ModelLink PyTorch NPU训练指导(6.3.912) 场景介绍 准备工作 训练任务 查看日志和性能 训练脚本说明参考 常见错误原因和解决方法 父主题: LLM大语言模型训练推理
训练脚本说明 训练启动脚本说明和参数配置 训练的数据集预处理说明 训练中的权重转换说明 训练tokenizer文件说明 父主题: 主流开源大模型基于DevServer适配PyTorch NPU训练指导(6.3.905)
推理模型量化 使用AWQ量化工具转换权重 使用SmoothQuant量化工具转换权重 使用kv-cache-int8量化 使用GPTQ量化 父主题: 主流开源大模型基于Standard适配PyTorch NPU推理指导(6.3.908)
推理模型量化 使用AWQ量化工具转换权重 使用SmoothQuant量化工具转换权重 使用kv-cache-int8量化 使用GPTQ量化 父主题: 主流开源大模型基于Standard适配PyTorch NPU推理指导(6.3.909)
主流开源大模型基于DevServer适配LlamaFactory PyTorch NPU训练指导(6.3.909) 场景介绍 准备工作 执行训练任务 查看日志和性能 训练脚本说明 附录:训练常见问题 父主题: LLM大语言模型训练推理
主流开源大模型基于Standard+OBS+SFS适配ModelLink PyTorch NPU训练指导(6.3.910) 场景介绍 准备工作 预训练 SFT全参微调训练 LoRA微调训练 查看日志和性能 训练脚本说明 常见错误原因和解决方法 父主题: LLM大语言模型训练推理
操作步骤 对接测试 配置流水线构建任务 upgrade.sh脚本说明 父主题: 使用GitLab对接Jenkins自动构建并升级部署到ServiceStage的组件
使用自动学习实现物体检测 准备物体检测数据 创建物体检测项目 标注物体检测数据 训练物体检测模型 部署物体检测服务 父主题: 使用自动学习实现零代码AI开发
创建和管理资源 在SLB中创建资源 在SLB中创建资源组 父主题: 配置运维中心负载均衡
柔性产线与检测专机实现柔性管控建设。 测试平台架构 测试平台基于国际标准化的自动化测试流程,构建高效、易用的面向工业制造行业的测试综合平台;面向网络化、智能化的制造业务测试需求,建立国内首个覆盖云、网、边、端四层架构的工业互联网测试平台;通过测试用例的导入和简单的设置便可完成针对
查看HTAP标准版实例或节点的监控指标 操作场景 云服务平台提供的云监控,可以对HTAP标准版实例的运行状态进行日常监控。您可以通过管理控制台,直观地查看HTAP标准版实例的各项监控指标。 前提条件 HTAP实例正常运行。 故障、删除状态的HTAP实例,无法在云监控中查看其监控指
LTS日志概述 云日志服务(Log Tank Service,简称LTS),用于收集来自主机和云服务的日志数据,通过海量日志数据的分析与处理,可以将云服务和应用程序的可用性和性能最大化,为您提供实时、高效、安全的日志处理能力,帮助您快速高效地进行实时决策分析、设备运维管理、用户业务趋势分析等。