AI开发平台MODELARTS-在Notebook调试环境中部署推理服务:Step2 准备权重文件

时间:2024-12-09 20:36:21

Step2 准备权重文件

将OBS中的模型权重上传到Notebook的工作目录/home/ma-user/work/下。上传代码参考如下。
import moxing as mox

obs_dir = "obs://${bucket_name}/${folder-name}"
local_dir = "/home/ma-user/work/qwen-14b"

mox.file.copy_parallel(obs_dir, local_dir)
实际操作如下图所示。
图1 上传OBS文件到Notebook的代码示例
support.huaweicloud.com/bestpractice-modelarts/modelarts_llm_infer_90848.html