检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
env”启动训练。由于训练作业运行时不是shell环境,因此无法直接使用“conda activate”命令激活指定的 “conda env”,需要使用其他方式以达成使用指定“conda env”来启动训练的效果。假设您的自定义镜像中的“conda”安装于“/home/ma-user/anaconda3”目录“conda
E不支持挂载子目录)。 如果type为“evs”类型,该值不需要填写。 volume_size 否 Integer EVS存储盘大小,最小为5GB,最大为4096GB,缺省值为5GB;如果type为OBS类型,该值不需要填写。 mount_path 否 String Notebo
/home/ma-user/.vscode-server/bin/$commitId 关闭VS Code,重新从Notebook实例列表页面打开VS Code(注意:需要关闭本地vscode,不然可能会报多个安装进程正在运行中)。 父主题: VS Code连接开发环境失败常见问题
当使用MoXing复制数据不成功,可能原因如下: 源文件不存在。 OBS路径不正确或者是两个OBS路径不在同一个区域。 训练作业空间不足。 处理方法 按照报错提示,需要排查以下几个问题: 检查moxing.file.copy_parallel()的第一个参数中是否有文件,否则会出现报错:No files to
Studio左侧导航栏中,选择“模型部署”进入服务列表。 选择“我的服务”页签。 选择模型服务,单击操作列的“更多 > 扩缩容”,进入扩缩容页面。 在扩缩容页面,根据业务需要增删模型服务的实例数,配置完成后,单击“确认”提交扩缩容任务。 图2 扩缩容 在我的服务列表,单击服务名称,进入服务详情页,可以查看修改后的实例数是否生效。
通过样本属性搜索。 parent_sample_id String 父样本ID。 sample_dir String 根据样本所在目录搜索(目录需要以/结尾),只搜索指定目录下的样本,不支持目录递归搜索。 sample_name String 根据样本名称搜索(含后缀名)。 sample_time
否 String 对训练作业的描述,默认为“NULL”,字符串的长度限制为[0, 256]。 config 是 Object 创建训练作业需要的参数。详情请参见表3。 workspace_id 否 String 指定作业所处的工作空间,默认值为“0”。 表3 config属性列表
1.wav 2.wav 3.wav 表格 支持从OBS导入csv文件,需要选择文件所在目录,其中csv文件的列数需要跟数据集schema一致。支持自动获取csv文件的schema。 ├─dataset-import-example │
9时测试得出,为服务部署所需的最小昇腾卡数及该卡数下推荐的最大max-model-len长度,不代表最佳性能。 以llama2-13b为例,NPU卡显存为32GB时,至少需要2张卡运行推理业务,2张卡运行的情况下,推荐的最大序列max-model-len长度最大是16K,此处的单位K是1024,即16*1024。
9时测试得出,为服务部署所需的最小昇腾卡数及该卡数下推荐的最大max-model-len长度,不代表最佳性能。 以llama2-13b为例,NPU卡显存为32GB时,至少需要2张卡运行推理业务,2张卡运行的情况下,推荐的最大序列max-model-len长度最大是16K,此处的单位K是1024,即16*1024。
9时测试得出,为服务部署所需的最小昇腾卡数及该卡数下推荐的最大max-model-len长度,不代表最佳性能。 以llama2-13b为例,NPU卡显存为32GB时,至少需要2张卡运行推理业务,2张卡运行的情况下,推荐的最大序列max-model-len长度最大是16K,此处的单位K是1024,即16*1024。
9时测试得出,为服务部署所需的最小昇腾卡数及该卡数下推荐的最大max-model-len长度,不代表最佳性能。 以llama2-13b为例,NPU卡显存为32GB时,至少需要2张卡运行推理业务,2张卡运行的情况下,推荐的最大序列max-model-len长度最大是16K,此处的单位K是1024,即16*1024。
--global-option="--cuda_ext" /cache/apex-master') 安装报错 “xxx.whl”文件无法安装,需要您按照如下步骤排查: 当出现“xxx.whl”文件无法安装,在启动文件中添加如下代码,查看当前pip命令支持的文件名和版本。 import
ache目录用完。 如文件大小小于/cache目录大小并且文件数量超过50w,则考虑为inode不足或者触发了操作系统的文件索引相关问题。需要: 分目录处理,减少单个目录文件量。 减慢创建文件的速度。如数据解压过程中,sleep 5s后再进行下一个数据的解压。 如果训练作业的工作
to("cpu") quantized_model.save_pretrained("CodeLlama-34b-hf") 使用量化模型 使用量化模型需要在NPU的机器上运行。 1. 在模型的保存目录中创建quant_config.json文件,bits必须设置为8,指定量化为int8;gr
to("cpu") quantized_model.save_pretrained("CodeLlama-34b-hf") 使用量化模型 使用量化模型需要在NPU的机器上运行。 1. 在模型的保存目录中创建quant_config.json文件,bits必须设置为8,指定量化为int8;gr
to("cpu") quantized_model.save_pretrained("CodeLlama-34b-hf") 使用量化模型 使用量化模型需要在NPU的机器上运行。 1. 在模型的保存目录中创建quant_config.json文件,bits必须设置为8,指定量化为int8;gr
to("cpu") quantized_model.save_pretrained("CodeLlama-34b-hf") 使用量化模型 使用量化模型需要在NPU的机器上运行。 1. 在模型的保存目录中创建quant_config.json文件,bits必须设置为8,指定量化为int8;gr
to("cpu") quantized_model.save_pretrained("CodeLlama-34b-hf") 使用量化模型 使用量化模型需要在NPU的机器上运行。 1. 在模型的保存目录中创建quant_config.json文件,bits必须设置为8,指定量化为int8;gr
to("cpu") quantized_model.save_pretrained("CodeLlama-34b-hf") 使用量化模型 使用量化模型需要在NPU的机器上运行。 1. 在模型的保存目录中创建quant_config.json文件,bits必须设置为8,指定量化为int8;gr