检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
package_version 否 String 依赖包版本。不填时默认安装最新版本。不能含有中文及特殊字符&!'"<>=。 package_name 是 String 依赖包名称。请确保包名正确且存在。不能含有中文及特殊字符&!'"<>=。 restraint 否 String 版本限制条件,当
在专属资源池规格中选择对应的规格进行使用。暂不支持选择创建了逻辑子池的物理池。 “选择模型及配置” “模型来源” 根据您的实际情况选择“自定义模型”或者“订阅模型”。 “选择模型及版本” 选择状态“正常”的模型及版本。 “分流” 设置当前实例节点的流量占比,服务调用请求根据该比例分配到当前版本上。
output_params params结构数组 模型的输出参数集,默认为空 dependencies dependency结构数组 运行代码及模型需安装的包。 model_metrics String 模型评测参数,仅当source_job_id和source_job_versio
ice_name”,默认可选“publish_at”。 order 否 String 排序方式,可选“asc”或“desc”,代表递增排序及递减排序,默认为:“desc”。 model_id 否 String 模型ID,默认不过滤模型ID。 表2 get_service_list返回参数说明
#模型启动文件。 |---pip-requirements.txt #定义的配置文件,用于指定依赖包的包名及版本号。 “pip-requirements.txt”文件内容如下所示: alembic==0.8.6 bleach==1.4.3 click==6
#微调数据文件 |── models #原始权重及tokenizer目录,需要用户手动创建并上传,后续操作步骤中会提示 ├── llama2-13b-hf
本次批量服务中,输入数据的OBS路径。 输出数据目录位置 本次批量服务中,输出数据的OBS路径。 模型名称&版本 本次批量服务所使用的模型名称及版本。 运行日志输出 默认关闭,批量服务的运行日志仅存放在ModelArts日志系统。 启用运行日志输出后,批量服务的运行日志会输出存放到云
档。 图1 JupyterLab主页 不同AI引擎的Notebook,打开后Launcher页面呈现的Notebook和Console内核及版本均不同,图1仅作为示例,请以实际控制台为准。 Notebook:选择运行Notebook的一个内核,例如TensorFlow、python
#微调数据文件 |── models #原始权重及tokenizer目录,需要用户手动创建并上传,后续操作步骤中会提示 ├── llama2-13b-hf |── tokenizers
在使用基于ModelArts预置镜像的训练作业时,可以引入moxing framework的数据下载加速特性。加速特性适用场景为:文件数在100w~1000w的场景、单个大文件及文件大小大于20GB的场景。 登录ModelArts管理控制台,在左侧菜单栏中选择“模型训练 > 训练作业”,进入训练作业管理页面。 单击右
删除标签 在“已标注”页签中“全部标签”的下方,选择需要删除的标签,单击操作列的删除图标,在弹出“删除”对话框中,选择“仅删除标签”或“删除标签及仅包含此标签的标注对象”,然后单击“确定”完成标签删除。 所有的删除操作均不可恢复,请谨慎操作。 继续运行 完成数据的确认之后,返回新版自动
MindSpore:MindSpore 2.3.0 FrameworkPTAdapter:6.0.RC3 如果用到CCE,版本要求是CCE Turbo v1.28及以上 300iDUO 西南-贵阳一 PyTorch: swr.cn-southwest-2.myhuaweicloud.com/atelie
MindSpore:MindSpore 2.4.0 FrameworkPTAdapter:6.0.RC3 CCE:如果用到CCE,版本要求是CCE Turbo v1.28及以上 300iDUO PyTorch: swr.cn-southwest-2.myhuaweicloud.com/atelier/pytor
“名称”:自定义一个在线服务的名称,也可以使用默认值,此处以“商超商品识别服务”为例。 “资源池”:选择“公共资源池”。 “模型来源”和“选择模型及版本”:会自动选择订阅模型。 “实例规格”:在下拉框中选择推理使用的计算资源。如果有免费资源,建议选择免费资源。 其他参数可使用默认值。 参
单击“预测”进行测试,预测完成后,右侧“预测结果”区域输出测试结果。如模型准确率不满足预期,可在“数据标注”页签中添加数据并进行标注,重新进行模型训练及模型部署。预测结果中的参数说明请参见表1。如果您对模型预测结果满意,可根据界面提示调用接口访问在线服务。 表1 预测结果中的参数说明 参数 说明
#微调数据文件 |── models #原始权重及tokenizer目录,需要用户手动创建并上传,后续操作步骤中会提示 ├── llama2-13b-hf |── tokenizers
否 String 指定查询的排序方式,默认是作业参数名称“config_name”,目前支持的排序还有作业参数描述“config_desc”及参数创建时间 “create_time”。sample的配置类型不支持“create_time”的排序方式。 order 否 String 可选值有以下两种。
#微调数据文件 |── models #原始权重及tokenizer目录,需要用户手动创建并上传,后续操作步骤中会提示 ├── llama2-13b-hf
“名称”:自定义一个在线服务的名称,也可以使用默认值,此处以“商超商品识别服务”为例。 “资源池”:选择“公共资源池”。 “AI应用来源”和“选择AI应用及版本”:会自动选择订阅模型。 “计算节点规格”:在下拉框中选择“限时免费”资源,勾选并阅读免费规格说明。 其他参数可使用默认值。 如果限时免
String NPU卡数量。 表11 dataVolume 参数 参数类型 描述 volumeType String 磁盘类型,具体内容可参考磁盘类型及性能介绍。可选值如下: SSD:超高IO硬盘 GPSSD:通用型SSD SAS:高IO硬盘 SATA:普通硬盘 size String 磁盘大小,单位为Gi。