检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
已完成”时,即完成了模型训练过程。 本案例的训练作业预计运行十分钟。 单击训练作业名称,进入作业详情界面查看训练作业日志信息,观察日志是否有明显的Error信息,如果有则表示训练失败,请根据日志提示定位原因并解决。 在训练详情页左下方单击训练输出路径,如图4所示,跳转到OBS目录
&<>"'/。 duration 否 Long 以当前时刻为起点,运行的时长(到期后自动停止),推荐该属性在leaseReq中配置,若此处有值则忽略leaseReq的值,且实例自动停止类型为定时停止。单位:毫秒。 endpoints 否 Array of EndpointsReq
表示训练轮次,根据实际需要修改。一个Epoch是将所有训练样本训练一次的过程。 train-iters 10 非必填。表示训练step迭代次数,有默认值 seed 1234 随机种子数。每次数据采样时,保持一致。 save-interval 1000 用于模型中间版本地保存。 当参数值
请联系您所在企业的华为方技术支持下载获取。 支持的模型列表和权重文件 本方案支持vLLM的v0.6.0版本。不同vLLM版本支持的模型列表有差异,具体如表3所示。 表3 支持的模型列表和权重获取地址 序号 模型名称 是否支持fp16/bf16推理 是否支持W4A16量化 是否支持W8A8量化
SingleNodeService from model_service.model_service import SingleNodeService 可以重写的方法有以下几种。 表2 重写方法 方法名 说明 __init__(self, model_name, model_path) 初始化方法,适用于深
开发环境类型,缺省时返回全部类型。 当前仅支持Notebook。 flavor String 实例的机器规格,缺省时返回全部类型。现在支持的有: modelarts.vm.cpu.free modelarts.vm.gpu.free flavor_details Object 规格
ser_group操作列的“授权”,勾选策略“Policy1”、“Policy2”、“SWR Admin”。单击“下一步”。 SWR的权限有SWR FullAccess、SWR OperateAccess、SWR ReadOnlyAccess。但SWR FullAccess、SWR
MiniCPM系列的最新多模态版本MiniCPM-V2.0。该模型基于MiniCPM 2.4B和SigLip-400M构建,共拥有2.8B参数。MiniCPM-V2.0具有领先的光学字符识别(OCR)和多模态理解能力。该模型在综合性OCR能力评测基准OCRBench上达到开源社区的最佳水平,甚至在场景文字理解方面实现接近
请联系您所在企业的华为方技术支持下载获取。 支持的模型列表和权重文件 本方案支持vLLM的v0.6.3版本。不同vLLM版本支持的模型列表有差异,具体如表3所示。 表3 支持的模型列表和权重获取地址 序号 模型名称 是否支持fp16/bf16推理 是否支持W4A16量化 是否支持W8A8量化
开发环境类型,缺省时返回全部类型。 当前仅支持Notebook。 flavor String 实例的机器规格,缺省时返回全部类型。现在支持的有: modelarts.vm.cpu.free modelarts.vm.gpu.free flavor_details Object 规格
多个属性值之间的关系。可选值如下: AND:与关系 OR:或关系 props Map<String,Array<String>> 属性的搜索条件,可以有多个属性条件。 表15 SampleStats 参数 参数类型 描述 accepted_sample_count Integer owner验收通过样本数目。
多个属性值之间的关系。可选值如下: AND:与关系 OR:或关系 props Map<String,Array<String>> 属性的搜索条件,可以有多个属性条件。 表14 WorkerTask 参数 参数类型 描述 create_time Long 团队标注成员任务创建时间。 dataset_id
比如${current_dir}/.ma/${template_name}/。也可以通过--dest命令指定保存的路径。当保存的路径已经有同名的模板文件夹时,可以使用--force | -f参数进行强制覆盖。 $ ma-cli image add-template -h Usage:
DataSource object 数据来源。 encoding 否 String 样本文件的编码类型,用于文本类型(txt/csv)的文件上传。取值有UTF-8、GBK、GB2312等,默认为UTF-8编码。 labels 否 Array of SampleLabel objects 样本标签列表。
-墨西哥城二、拉美-圣保罗一 部署为批量服务 镜像管理 ModelArts为用户提供了多种常见的预置镜像,但是当用户对深度学习引擎、开发库有特殊需求场景的时候,预置镜像已经不能满足用户需求。ModelArts提供自定义镜像功能支持用户自定义运行引擎。 ModelArts底层采用容
数据扩增主要用于训练数据集不足或需要仿真的场景,能通过对已标注的数据集做变换操作来增加训练图片的数量,同时会生成相应的标签。在深度学习领域,增强有重要的意义,能提升模型的泛化能力,增加抗扰动的能力。数据扩增过程不会改动原始数据,扩增后的图片或xml文件保存在指定的输出路径下。 ModelArts提供以下数据扩增算子:
多个属性值之间的关系。可选值如下: AND:与关系 OR:或关系 props 否 Map<String,Array<String>> 属性的搜索条件,可以有多个属性条件。 表9 Flavor 参数 是否必选 参数类型 描述 code 否 String 资源规格的属性编码,用于创建作业。 表10 InfConfig
”、“E2”,三元组的关系标签ID格式为“R+数字”,例如“R1”、“R2”。 property 否 包含对标注的属性,例如本示例中Cat有两个属性,颜色(color)和品种(kind)。 hard 否 表示是否是难例。“True”表示该标注是难例,“False”表示该标注不是难例。
多个属性值之间的关系。可选值如下: AND:与关系 OR:或关系 props Map<String,Array<String>> 属性的搜索条件,可以有多个属性条件。 表9 Flavor 参数 参数类型 描述 code String 资源规格的属性编码,用于创建作业。 表10 InfConfig
多个属性值之间的关系。可选值如下: AND:与关系 OR:或关系 props Map<String,Array<String>> 属性的搜索条件,可以有多个属性条件。 表11 Flavor 参数 参数类型 描述 code String 资源规格的属性编码,用于创建作业。 表12 InfConfig