检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
install.sh # 环境部署脚本 |——src/ # 启动命令行封装脚本，在install.sh里面自动构建 |──llm_inference # 推理代码包
flavor String 实例的机器规格，缺省时返回全部类型。现在支持的有： modelarts.vm.cpu.free modelarts.vm.gpu.free flavor_details Object 规格详情，用于展示规格信息，以及查询规格是否售罄。请参见表16。 status
runtime is found分析，是cuda runtime没有找到。 处理方法 建议您按以下步骤排查处理： 确认部署在线服务时是否选择了GPU规格。 在customize_service.py中添加一行代码os.system('nvcc -V)查看该镜像的cuda版本（customize_service
flavor String 实例的机器规格，缺省时返回全部类型。现在支持的有： modelarts.vm.cpu.free modelarts.vm.gpu.free flavor_details Object 规格详情，用于展示规格信息，以及查询规格是否售罄。请参见表16。 status
indices_out_cuda_frame failed with error code 0” 问题现象 pytroch1.3镜像中，去升级了pytroch1.4的版本，导致之前在pytroch1.3跑通的代码报错如下： “RuntimeError:max_pool2d_wit
帮助。 图片大Shape性能劣化严重怎么办？ 在昇腾设备上，可能由于GPU内存墙导致在大shape下遇到性能问题。MindSporeLite提供了Flash Attention编译优化机制，您可以考虑升级最新版本的MindSporeLite Convertor来进行编译器的算子优
PYTORCH_NPU_ALLOC_CONF=expandable_segments:False；llava多卡启动时需要关闭虚拟内存扩展；开启时可能提升模型性能。允许分配器最初创建一个段，然后在以后需要更多内存时扩展它的大小。 --image-input-type：图像输入模式，pixel_values and
PYTORCH_NPU_ALLOC_CONF=expandable_segments:False；llava多卡启动时需要关闭虚拟内存扩展；开启时可能提升模型性能。允许分配器最初创建一个段，然后在以后需要更多内存时扩展它的大小。 --image-input-type：图像输入模式，pixel_values and
实例说明，长度限制为512字符，不可包含特殊字符&<>"'/，缺省值为空。 flavor 是 String 实例的机器规格。实际支持规格以具体区域为准。如果您需要使用默认规格之外的其他规格，请提交工单修改规格。 spec 是 Object 实例定义，当前仅支持Notebook，如表3所示。 workspace
日志提示“Unexpected keyword argument passed to optimizer” 问题现象 在使用keras时，升级版本>=2.3.0之后，之前跑通的代码出现如下报错： TypeError: Unexpected keyword argument passed
STOPPING，停止中 STOPPED，停止 UNAVAILABLE，故障 DELETED，已删除 RESIZING，规格变更中 RESIZE_FAILED，规格变更失败 sortby 否 String 分类标准，支持“name”、“creation_timestamp”。默认为“name”。
标注多个标签进行训练而成的模型，最后部署成在线服务之后也是对标注的多个标签去进行识别的。如果只需要快速识别一种标签，建议单独训练识别此标签的模型使用，并选择较大的部署上线的规格也可以提供识别速度。 父主题： 一般性问题
NPU对应的接口，请参考昇腾手工迁移文档进行操作。 常见问题 如何检测当前的torch_npu是否正确安装？ 您可以使用如下的python命令在对应的运行环境中初步校验torch_npu是否正常安装。 python3 -c "import torch;import torch_npu;print(torch_npu
PRE_PAID：包周期 cloud_server CloudServer object 云服务信息。 endpoints_response Array of Endpoints objects 实例私有IP信息。 flavor String 实例规格名称。 id String 实例ID。
ModelArts.2762 DuplicateFlavorCode 实例规格（%s）已存在 请更换实例规格名称 400 ModelArts.2763 DoNotHaveFlavor 选择的实例规格无效 请检查请求中的实例规格是否有效 400 ModelArts.2764 QueryParamsError
影响ModelArts侧基本功能，包括但不限于节点管理、扩缩容、驱动升级等。 高 不可恢复。 插件 升级、卸载gpu-beta插件。 可能导致GPU驱动使用异常。 中 回退版本、重装插件。 升级、卸载huawei-npu插件。 可能导致NPU驱动使用异常。 中 回退版本、重装插件。 升级、卸载volcano插件。 可能导致作业调度异常。
后部署成在线服务之后也是对标注的多个标签去进行识别的。如果只需要快速识别一种标签，建议单独训练识别此标签的模型使用，并选择较大的部署上线的规格也可以提供识别速度。 父主题： Standard数据管理
告警及时响应。 ModelArts承载关键业务的对外开放EIP部署了高防服务，以防大流量攻击。 ModelArts对存放关键数据的数据库部署了数据库安全服务。 云服务防抖动和遭受攻击后的应急响应/恢复策略 ModelArts服务具备租户资源隔离能力，避免单租户资源被攻击导致爆炸半径大，影响其他租户。
可省略，示例如下： 1 model.publish_model() 此时模型文件会上传到默认OBS桶以当前时间戳结尾的目录中。该目录会在命令执行后打印出来，示例如下： 1 Successfully upload file /home/ma-user/work/tensorflo
其环境规格取决于开发环境资源规格；例如在一个modelarts.vm.cpu.2u的Notebook中，部署本地Predictor，其运行环境就是cpu.2u。 部署在线服务Predictor，即将存储在OBS中的模型文件部署到线上服务管理模块提供的容器中运行，其环境规格（如CPU规格，GPU规格）由表3
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
