检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
常见错误原因和解决方法 显存溢出错误 网卡名称错误 父主题: 主流开源大模型基于Standard+OBS+SFS适配PyTorch NPU训练指导(6.3.908)
非分离部署推理服务 本章节介绍如何使用vLLM 0.5.0框架部署并启动推理服务。 什么是非分离部署 全量推理和增量推理在同一节点上进行。 前提条件 已准备好DevServer环境,具体参考资源规格要求。推荐使用“西南-贵阳一”Region上的DevServer和昇腾Snt9b资源。
SFT全参微调训练任务 步骤一 上传训练权重文件和数据集 如果在准备代码和数据阶段已经上传权重文件和数据集到容器中,可以忽略此步骤。 如果未上传训练权重文件和数据集到容器中,具体参考上传代码和权重文件到工作环境和上传数据到指定目录章节完成。训练脚本中会自动执行训练前的权重转换操作和数据处理操作。
训练的权重转换说明 以llama2-13b举例,使用训练作业运行obs_pipeline.sh脚本后,脚本自动执行权重转换,并检查是否已经完成权重转换的过程。 如果已完成权重转换,则直接执行训练任务。如果未进行权重转换,则会自动执行scripts/llama2/2_convert_mg_hf
false:通过非安全协议方式接入。 缺省值:true timeout 否 Integer 设备验证码的有效时间,单位:秒,默认值:0 若设备在有效时间内未接入物联网平台并激活,则平台会删除该设备的注册信息。若设置为“0”,则表示设备验证码不会失效(建议填写为“0”)。 最小值:0 最大值:2147483647 缺省值:0
修改裸金属服务器名称 功能介绍 修改裸金属服务器名称。 约束 裸金属服务器名称取值范围: 只能由中文字符、英文字母(a~z,A~Z)、数字(0~9)、下划线(_)、中划线(-)、点(.)组成,且长度为[1-63]个字符。 本接口只修改裸金属服务器的实例名称,但hostname不能同步修改。重启裸金属服务器后生效。
auth_type 否 String 认证类型 register_group_secret 否 String 设备组密钥,设置该字段时平台将设备密钥置为指定值,若不设置则由平台自动生成。 最小长度:44 最大长度:172 init_config 否 String 注册组的初始化配置。必须为json字符串
定义模板状态回执 功能介绍 用户按接口定义实现模板状态回执接口。 响应参数仅供参考,客户可以返回任意响应消息给平台,平台不会对响应消息处理。 URI POST /v1/aim/template-status 请求参数 表1 请求Header参数 参数 是否必选 参数类型 描述 Content-Type
OBS委托授权 如果您的源站为华为云OBS私有桶,您需要开启OBS委托授权,授权成功后,CDN将有权限访问您账号下所有私有桶资源。 配置约束 主账号默认拥有所有权限,配置委托时无需添加权限。如果您的账号是IAM子账号,那么您的子账号需要有以下权限才可正常开启OBS委托授权: IAM权限:
调用API访问在线服务时,对预测请求体大小和预测时间有限制: 请求体的大小不超过12MB,超过后请求会被拦截。 因APIG(API网关)限制,平台每次请求预测的时间不超过40秒。 前提条件 数据已完成准备:已在ModelArts中创建状态“正常”可用的AI应用。 由于在线运行需消耗资源,确保账户未欠费。
5分钟 指标 支持导出“流量”、“带宽”、“请求数”数据。 当“导出类型”选择“热点统计”时,不支持导出带宽。 流量 查询区域 导出数据的所属区域。 支持区域:中国大陆、中国大陆境外、亚太1(中国香港、中国澳门、中国台湾、日本、韩国)、亚太2(印度)、亚太3(亚太其他)、欧洲、北美洲、中东及非洲、南美洲、大洋洲。
总结 本文介绍了在华为云平台上实现SAP的可靠性,可用性,性能和成本效益的最佳实践。在传统基础设施和华为云上部署SAP系统的差异可以忽略不计。在华为云上部署SAP系统时,应该考虑与计算配置,存储,安全,管理和监控相关的一些注意事项,以获得更好的效果。
进入医疗智能体“总览”页面,单击“购买平台”。 图3 购买平台 购买盘古辅助制药平台。 图4 购买盘古辅助制药 区域:请就近选择靠近您业务的区域,可减少网络延迟,提高访问速度。不同区域云服务产品之间内网互不相通。 平台规格:选择“盘古辅助制药平台”基础版或者专业版。 平台计费方式:选择“包年包月”或“按需”计费。
用于任务,或者质检单/巡检单配置审批流。 对于质检/巡检单,可以根据各种维度配置“审批流的自动匹配规则”; 安全视频检查单,按“交付区域”配置审批流。 配置审批流 路径:公共平台->业务配置->审批流程->审批流配置 1.审批流配置,针对ISDP所有审批环节配置审批流内容 图6.1-1 新增审批流 规则说明: 输入项
管理项目和企业项目 创建项目并授权 创建项目 进入管理控制台页面,单击右上方的用户名,在下拉列表中选择“统一身份认证”,进入统一身份认证服务页面。选择左侧导航中的“项目”,单击“创建项目”,选择区域并输入项目名称。 授权 通过为用户组授予权限(包括资源集和操作集),实现项目和用户
ts Repo 背景介绍 CodeArts Repo现有迁仓能力只支持公网之间迁移,缺少客户内网自建代码托管平台往Repo迁移的快速方案,因此提供批量迁移内网代码托管平台仓库到Repo的脚本。 配置访问CodeArts Repo的SSH公钥 在进行批量迁移GitLab的代码仓到CodeArts
项目ID。 最小长度:1 最大长度:32 product_id 是 String 产品ID,用于唯一标识一个产品,在物联网平台的SP Portal上导入产品模型后由平台分配获得。 表2 Query参数 参数 是否必选 参数类型 描述 region_id 是 String 区域ID,用于区分不同的区域。
Weblogic单机双节点集群部署 本章节介绍了Weblogic如何配置集群,也介绍了在集群部署方式下,ABI5.3.1应用配置集群。部署weblogic集群是为了使用weblogic的proxy代理,并不使用weblogic集群的任何特性 集群(Cluster)是由两台或多台节
部署环境配置 本章节主要讲述在linux环境下如何安装及配置金蝶中间件。 安装应用服务器 确保所登录用户对AAS-V9.0.zip有可读写权限(在终端中用命令 ls -l AAS-V9.0.zip查看),可通过以下命令将AAS-V9.0.zip解压缩到安装目录: 可参考以下命令(具体以实际为准):
报错“Host key verification failed.'或者'Port forwarding is disabled.”如何解决? 问题现象 或 原因分析 Notebook实例重新启动后,公钥发生变化,OpenSSH核对公钥发出警告。 解决方法 在VS Code中使用命令方式进行远程连接时,增加参数"-o