检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
自定义镜像导入模型部署上线调用API报错 部署上线调用API报错，排查项如下： 确认配置文件模型的接口定义中有没有POST方法。 确认配置文件里url是否有定义路径。例如：“/predictions/poetry”（默认为“/”）。 确认API调用中body体中的调用路径是否拼接
本地导入的算法有哪些格式要求？ ModelArts支持导入本地开发的算法，格式要求如下： 编程语言不限。 启动文件必须选择以“.py”结尾的文件。 文件数（含文件、文件夹数量）不超过1024个。 文件总大小不超过5GB。 父主题： 功能咨询
推理启动脚本run_vllm.sh制作请参见下文创建推理脚本文件run_vllm.sh的介绍。 SSL证书制作包含cert.pem和key.pem，需自行生成。生成方式请参见•通过openssl创建SSLpem证书。 图1 准备模型文件和权重文件 创建推理脚本文件run_vllm.sh run_vllm
String 导入的OBS路径或manifest路径。 导入manifest时，path必须精确到具体manifest文件。 导入为目录时，目前仅支持数据集类型为图片分类、物体检测、文本分类、声音分类。 import_type Integer 导入方式。可选值如下： 0：目录导入 1：按manifest文件导入
推理启动脚本run_vllm.sh制作请参见•创建推理脚本文件run_vllm.sh。 SSL证书制作包含cert.pem和key.pem，需自行生成。生成方式请参见•通过openssl创建SSLpem证书。 图1 准备模型文件和权重文件 创建推理脚本文件run_vllm.sh run_vllm
推理启动脚本run_vllm.sh制作请参见下文创建推理脚本文件run_vllm.sh的介绍。 SSL证书制作包含cert.pem和key.pem，需自行生成。生成方式请参见•通过openssl创建SSLpem证书。 图1 准备模型文件和权重文件 创建推理脚本文件run_vllm.sh run_vllm
推理启动脚本run_vllm.sh制作请参见下文创建推理脚本文件run_vllm.sh的介绍。 SSL证书制作包含cert.pem和key.pem，需自行生成。生成方式请参见•通过openssl创建SSLpem证书。 图1 准备模型文件和权重文件 创建推理脚本文件run_vllm.sh run_vllm
自定义镜像导入配置运行时依赖无效 问题现象 通过API接口选择自定义镜像导入创建AI应用，配置了运行时依赖，没有正常安装pip依赖包。 原因分析 自定义镜像导入不支持配置运行时依赖，系统不会自动安装所需要的pip依赖包。 处理方法 重新构建镜像。 在构建镜像的dockerfile
String 导入的OBS路径或manifest路径。 导入manifest时，path必须精确到具体manifest文件。 导入为目录时，目前仅支持数据集类型为图片分类、物体检测、文本分类、声音分类。 import_type Integer 导入方式。可选值如下： 0：目录导入 1：按manifest文件导入
用户创建AI应用时构建镜像或导入文件失败 问题现象 用户创建AI应用时，构建镜像失败，失败日志中提示下载obs文件失败（Get object size from OBS failed！）。 图1 下载obs文件失败 用户创建AI应用时，事件提示：复制模型文件失败，请检查OBS权限是否正常（Failed
size的大小最大支持50G，专属资源池Docker size的大小最大支持50G。 如果使用的是OBS导入或者训练导入，则包含基础镜像、模型文件、代码、数据文件和下载安装软件包的大小总和。 如果使用的是自定义镜像导入，则包含解压后镜像和镜像下载文件的大小总和。 父主题： AI应用管理
导入AI应用提示单个模型文件超过5G限制 问题现象 在导入AI应用时，提示单个模型文件大小超过5G限制。 原因分析 在不使用动态加载的情况下，系统对单个模型文件的限制大小为5G，超过时无法进行导入。 处理方法 精简模型文件后，重新导入。 使用动态加载功能进行导入。 图1 使用动态加载
配置文件中的端口保持一致； 图1 修改端口号 设置完成后，单击“立即创建”，等待AI应用状态变为“正常”； 重新部署在线服务。 父主题： 导入模型
页面右上角单击“导入”。 在“导入”对话框中，参考如下说明填写参数，然后单击“确定”。 “数据来源”：“本地上传” “上传数据存储路径”：数据存储的OBS路径。 “上传数据”：单击“文件上传”，上传本地的数据，单击“确定”。 图1 从本地上传数据 父主题： 导入数据到ModelArts数据集
pem文件生成）。 单击“Open”。如果首次登录，PuTTY会显示安全警告对话框，询问是否接受服务器的安全证书。单击“Accept”将证书保存到本地注册表中。 图6 询问是否接受服务器的安全证书 成功连接到云上Notebook实例。 图7 连接到云上Notebook实例 父主题： 使用Notebook进行AI开发调试
false：不导入标签 否 bool import_samples 是否导入样本。可选值如下： true：导入样本（默认值） false：不导入样本 否 bool import_type 导入方式。可选值如下： dir：目录导入 manifest：按manifest文件导入 否 ImportTypeEnum
确读取，可能报错找不到路径。 原因分析 Notebook是Linux环境，和Windows环境下的换行格式不同，Windows下是CRLF，而Linux下是LF。 解决方法 可以在Notebook中转换文件格式为Linux格式。 shell语言： dos2unix 文件名 父主题：
确读取，可能报错找不到路径。 原因分析 Notebook是Linux环境，和Windows环境下的换行格式不同，Windows下是CRLF，而Linux下是LF。 解决方法 可以在Notebook中转换文件格式为Linux格式。 shell语言： dos2unix 文件名 父主题：
创建AI应用 功能介绍 导入元模型创建AI应用。 执行代码、模型需先上传至OBS（训练作业生成的模型已默认存储到OBS）。 接口约束 使用模板导入模型与不使用模板导入这两类导入方式的Body参数要求不一样。以下Body参数说明中以模板参数表示适合使用模板导入模型时填写的参数，非模板
通过OBS导入AI应用时，如何编写打印日志代码才能在ModelArts日志查询界面看到日志？ 问题现象 用户通过OBS导入AI应用时，选择使用基础镜像，用户自己编写了部分推理代码实现自己的推理逻辑，出现故障后希望通过故障日志排查定位故障原因，但是通过logger打印日志无法在在线服务的日志中查看到部分内容。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
