检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
#构造vllm评测配置脚本名字 相关文档 和本文档配套的模型训练文档请参考主流开源大模型(PyTorch)基于DevServer训练指导。 父主题: 主流开源大模型基于DevServer适配PyTorch NPU推理指导(6.3.909)
error_code String 调用失败时的错误码。调用成功时无此字段。 error_msg String 调用失败时的错误信息。调用成功时无此字段。 父主题: OBS管理
释放Lite Cluster资源:针对不再使用的Lite Cluster资源,您可以释放资源。 图1 Lite Cluster资源管理介绍 父主题: Lite Cluster资源管理
盘空间不足,请联系系统管理员,更换合适的规格。 如果是大模型导入的AI应用部署服务,请确保专属资源池磁盘空间大于1T(1000GB)。 父主题: 服务部署
oud/”目录下的所有信息,请参考清理临时文件步骤对文件进行清理,然后再制作镜像。CCE重新纳管服务器A时, 使用最新制作的镜像即可。 父主题: Lite Server
"algorithm_names" : [ "AutoCompress" ] } ] } 状态码 状态码 描述 200 ok 错误码 请参见错误码。 父主题: 训练管理
"internal error" } 状态码 状态码 描述 200 OK。 500 Internal error 错误码 请参见错误码。 父主题: 资源管理
删除网络 当AI业务开发不再需要使用网络时,您可以删除网络。 在“网络”页签,单击某个网络操作列的“删除”。 确认删除,单击“确定”即可。 父主题: 管理Standard专属资源池
Tool接口参考中的指导。 NPU上的网卡在哪里可以看到, 会健康检查吗? 8*NPU的网卡为机头上配置的四个2*100GE网卡。华为云有网卡健康状态监控机制。 父主题: Lite Server
调用失败时的错误码,具体请参见错误码,调用成功时无此字段。 error_solution String 调用失败时的提示解决信息,调用成功时无此字段。 父主题: 资源和引擎规格接口
ModelArts包含开发环境、训练管理、推理部署三个功能模块,三个模块采用统一的流程提供基础镜像。这些镜像会不定期更新升级,修复已知漏洞。 父主题: 安全
User:用户名,例如:ma-user - HostName:IP地址 - Port:端口号 vscode-server相关问题也可以使用上述的解决方法。 父主题: VS Code连接开发环境失败故障处理
dev/null ForwardAgent yes 提示:增加参数后SSH登录时会忽略known_hosts文件,有安全风险。 父主题: VS Code连接开发环境失败故障处理
设置“Stop server after”,此参数默认值为360s,将其设置为3600s或更大值。 图3 设置“Stop server after” 父主题: VS Code连接开发环境失败故障处理
User:用户名,例如:ma-user - HostName:IP地址 - Port:端口号 vscode-server相关问题也可以使用上述的解决方法。 父主题: VS Code连接开发环境失败常见问题
nvidia-fabricmanager.service 建议您进一步定位出nvidia-fabricmanager不工作原因,避免该问题再次发生。 父主题: Lite Server
"used" : 10 } ] } } 状态码 状态码 描述 200 OK。 404 Not Found。 错误码 请参见错误码。 父主题: 配额管理
"success_message": "Delete all-users auth info successfully!" } 父主题: 应用示例
"extend_params" : 1 } ] } 状态码 状态码 描述 200 服务部署规格列表。 错误码 请参见错误码。 父主题: 服务管理
不满足业务要求,可通过驱动升级功能将驱动升级到指定版本。驱动升级功能介绍可参考升级Lite Cluster资源池驱动。 图2 驱动升级 父主题: Lite Cluster资源配置