检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
更新AI应用版本时,边缘服务预测功能不可用? 针对某一部署的边缘服务,如果在更新AI应用版本时,即修改边缘服务,更新其使用的AI应用版本,导致此边缘服务的预测功能暂不可用。 针对此场景,由于更新了AI应用版本,边缘服务将重新部署,处于部署中的边缘服务,则无法使用预测功能。即更新AI
报错"ssh: connect to host ModelArts-xxx port xxx: Connection timed out"如何解决? 问题现象 原因分析 原因分析一:实例配置的白名单IP与本地网络访问IP不符。 解决方法:请修改白名单为本地网络访问IP或者去掉白名单配置
VS Code连接开发环境时报错Missing GLIBC,Missing required dependencies 问题现象 VS Code连接开发环境时报错如下: Warning: Missing GLIBC >= 2.28! from /lib/x86_64-linux-gnu
同一个实例中,为什么看到的数据跟其他人看到的不一样? ROMA Connect对用户资源实现了严格的权限管理。 在同一实例内,用户只能查看和管理自己创建的集成应用和资源,默认不能查看其他用户创建的集成应用和资源。 用户可以通过集成应用授权的方式,把集成应用下的资源共享给同一账号下的其他用户来查看和使用
报错“no such identity: C:/Users/xx /test.pem: No such file or directory”如何解决? 问题现象 原因分析 密钥文件不存在于该路径下,或者该路径下密钥文件名被修改。 解决方法 重新选择密钥路径。 父主题: VS Code
使用MobaXterm工具SSH连接Notebook后,经常断开或卡顿,如何解决? 问题现象 MobaXterm成功连接到开发环境后,过一段时间会自动断开。 可能原因 配置MobaXterm工具时,没有勾选“SSH keepalive”或专业版MobaXterm工具的“Stop server
如何处理虚拟机类型环境下部署的组件删除失败报host status is not active错误的问题? 问题描述 虚拟机类型环境下部署组件删除失败,在任务详情界面单击“查看详情”,看到的错误信息示例如下: { "statusCode": 400, "jsonBody
upgrade.sh脚本说明 脚本内容 请使用您环境下的实际参数替换脚本中的参数变量。 #!/bin/bash # 项目id project_id='{项目id}' # 应用id application_id='{应用id}' # 组件id component_id='{组件id}
设置AstroZero系统支持的语言 基于AstroZero开发的应用中,有些内容是支持多语言展示的,需要在AstroZero中提前配置应用支持哪几种语言。在翻译控制台页面,可以新增、删除和编辑系统支持的语言。进行删除操作前,请确认该语言已处于禁用状态。 新增语言 账号登录AstroZero
管理应用中的自定义接口 操作场景 当前端页面,如高级页面中,需要调用自定义接口时,可在“自定义接口”中查看自定义接口的URL和其他信息。 图1 配置组件数据来源 查看自定义接口 在AstroZero服务控制台,单击“进入首页”,进入应用开发页面。 在页面左上方单击,选择“环境管理
配置微服务治理 微服务部署完后,您可以根据微服务的运行情况进行微服务的治理。 治理策略说明 支持负载均衡、限流、故障隔离、容错、降级、熔断、错误注入、超时时间和OLC流控等策略的配置。各治理项说明如表1所示。 表1 治理策略说明 名称 说明 负载均衡 微服务一般会部署多个实例,负载均衡控制微服务消费者访问微服务提供者的多个实例的策略
在WiseDBA中纳管和管理数据库实例 在WiseDBA中纳管数据库实例 在WiseDBA中下线及还原数据库实例 在WiseDBA中销毁数据库实例 在WiseDBA中查看数据库实例基础信息 在WiseDBA中变更数据库实例规格 在WiseDBA中为数据库实例添加节点 在WiseDBA
系统管理员的工厂模型设置 工厂模型设置概述 维护公司注册 维护工厂建模 管理工厂员工 父主题: MBM Space使用示例
SFT全参微调训练 前提条件 已上传训练代码、训练权重文件和数据集到SFS Turbo中。 Step1 在Notebook中修改训练超参配置 以llama2-13b SFT微调为例,执行脚本 0_pl_sft_13b.sh 。 修改模型训练脚本中的超参配置,必须修改的参数如表1所示
使用AOM查看Lite Cluster监控指标 ModelArts Lite Cluster会定期收集资源池中各节点的关键资源(GPU、NPU、CPU、Memory等)的使用情况并上报到AOM,用户可直接在AOM上查看默认配置好的基础指标,也支持用户自定义一些指标项上报到AOM查看
查看日志和性能 查看日志 训练过程中,训练日志会在最后的Rank节点打印。 图1 打印训练日志 训练完成后,如果需要单独获取训练日志文件,可以在${SAVE_PATH}/logs路径下获取。日志存放路径为:/home/ma-user/ws/saved_dir_for_ma_output
推理性能测试 benchmark方法介绍 性能benchmark包括两部分。 静态性能测试:评估在固定输入、固定输出和固定并发下,模型的吞吐与首token延迟。该方式实现简单,能比较清楚的看出模型的性能和输入输出长度、以及并发的关系。 动态性能测试:评估在请求并发在一定范围内波动,
准备环境 本文档中的模型运行环境是ModelArts Lite的DevServer。请参考本文档要求准备资源环境。 资源规格要求 计算规格:不同模型训练推荐的NPU卡数请参见表1。 硬盘空间:至少200GB。 Ascend资源规格: Ascend: 1*ascend-snt9b表示
查看日志和性能 查看日志 训练过程中,训练日志会在第一个的Rank节点打印。 图1 打印训练日志 训练完成后,如果需要单独获取训练日志文件,日志存放在第一个的Rank节点中;日志存放路径为:对应表1表格中output_dir参数值路径下的trainer_log.jsonl文件 查看性能
准备环境 本文档中的模型运行环境是ModelArts Lite Server。请参考本文档要求准备资源环境。 资源规格要求 计算规格:不同模型训练推荐的NPU卡数请参见表2。 硬盘空间:至少200GB。 Ascend资源规格: Ascend: 1*ascend-snt9b表示Ascend