检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
数据处理完后,在/home/ma-user/ws/processed_for_ma_input/Qwen-14B/data/pretrain/目录下生成alpaca_text_document.bin和alpaca_text_document.idx文件。 图1 处理后的数据 自定义数据
签删除后,此文本对象将被呈现至“未标注”页签下。 图3 删除已标注文本的标签 修改标签 针对文本分类的自动学习项目,项目创建成功后,您可以根据业务变化,修改用于标注的标签。支持添加、修改和删除标签。 添加标签 在“未标注”页签下,单击“标签集”右侧的加号,在弹出“新增标签”对话框
全、开放的共享,加速AI资产的开发与落地。 发布至AI Gallery的资产是免费的,只需要支付在使用过程中消耗的硬件资源,硬件资源费用将根据实际使用情况由ModelArts管理控制台向使用方收取。 发布至AI云商店 华为云云商店是软件及服务交易交付平台。云商店AI专区汇聚优质的
引擎,单击后将新建一个对应框架的ipynb文件。 由于每个Notebook实例选择的工作环境不同,其支持的AI框架也不同,下图仅为示例,请根据实际显示界面选择AI框架。 图4 选择AI引擎并新建一个ipynb文件 新建的ipynb文件将呈现在左侧菜单栏中。 图5 新建文件 新建文件并打开Console
动下载至训练容器的“${MA_JOB_DIR}/demo-code”目录中,“demo-code”为OBS存放代码路径的最后一级目录,可以根据实际修改。 启动命令:“/home/ma-user/miniconda3/bin/python ${MA_JOB_DIR}/demo-co
后单击“确定”完成修改。修改后,之前添加了此标签的音频,都将被标注为新的标签名称。 删除标签:单击操作列的“删除”按钮,在弹出的对话框中,根据提示选择删除对象,然后单击“确定”。 删除后的标签无法恢复,请谨慎操作。 继续运行 完成数据的确认之后,返回新版自动学习的页面,在数据标注
动下载至训练容器的“${MA_JOB_DIR}/demo-code”目录中,“demo-code”为OBS存放代码路径的最后一级目录,可以根据实际修改。 启动命令:“/home/ma-user/miniconda3/bin/python ${MA_JOB_DIR}/demo-co
调用接口需要进行APP鉴权,在创建APP应用时自动生成“AppKey/AppSecret”,您可以在“在线服务授权管理”对话框中单击APP应用操作列的查看完整的AppSecret。单击应用名称前方的展开下拉列表,通过单击“添加AppCode”自动生成“AppCode”,您可以单击操作列的查看完整的AppCode。
service not found or failed to respond"} 基于高性能考虑,ModelArts会复用同模型服务的连接。根据tcp协议,连接的断开可以由该连接的client端发起,也可以由server端发起。断开连接需要经过四次握手,所以可能会存在作为服务端的模
"python" } (可选)按需添加env字段的值。以下示例中,PATH中增加了该虚拟环境Python包所在路径: 以下配置仅供参考,请根据实际情况修改env字段内容。 { "argv": [ "/home/ma-user/anaconda3/envs/my-env/bin/python3"
“code”为OBS存放代码路径的最后一级目录,可以根据实际修改。 启动命令:“python ${MA_JOB_DIR}/code/mnist.py” ,此处的“code”为用户自定义的OBS存放代码路径的最后一级目录,可以根据实际修改。 训练输入:单击“增加训练输入”,参数名称
t} 诊断结果以两种形式进行呈现: 屏幕回显 在“${path_to_diag_output}/fault_diag_result”目录下生成的diag_report.json文件。 父主题: Lite Cluster资源使用
资源规格为准。 步骤二:上传Summary数据 在开发环境中使用TensorBoard可视化功能,需要用到Summary数据。如果您已经有生成好的数据,可通过如下两种方式将其上传到Notebook中: Summary数据如果在本地,可以在Notebook左侧文件导航栏下新建目录,
/home/ma-user/ws/saved_dir_for_ma_output/Qwen-14B/pretrain 必填。加载上一步预训练后保存的权重文件。 请根据实际规划修改。 TRAIN_ITERS 300 必填。表示训练周期,必须大于上次保存训练的周期次数。 RUN_TYPE retrain 必
同步OBS图片数据 添加数据:您可以将本地图片快速添加到ModelArts,同时自动上传至创建项目时所选择的OBS路径中。单击“添加数据”,根据弹出的对话框的引导,输入正确的数据并添加。 同步新数据:将图片数据上传至创建项目时指定的OBS目录,然后单击“同步新数据”,快速将原OBS
#HuggingFace格式转换megatron格式后权重文件 ├── saved_dir_for_ma_output #训练输出保存权重,根据实际训练需求设置 ├── BaiChuan2-13B ├── logs #训练过程中日志(loss、吞吐性能)
MethodNotAllowed 请求中带有该资源不支持的方法。 建议直接修改该请求,不要重试该请求。 406 Not Acceptable 服务器无法根据客户端请求的内容特性完成请求。 407 Proxy Authentication Required 请求要求代理的身份认证,与401类似,但请求者应当使用代理进行授权。
订阅或购买主要是获取AI资产的使用配额和使用权,支持在配额定义的约束下,有限地使用AI资产。 使用AI资产时,可能需要消耗硬件资源,硬件资源费用将根据实际使用情况,由华为云ModelArts等管理控制台向使用方收取。 已发布的AI资产,如果不需要在资产列表中展示该资产,可以将资产下架。下
大模型训练通常会使用Deepspeed、Megatron等三方库,需要确保这些三方库的版本一致。 环境版本更新 这一项仅在条件允许的情况下进行,根据精度问题定位经验,部分问题是由于使用了较早版本的昇腾软件版本或者非商用发布的昇腾软件版本,所以推荐在条件允许的前提下配套安装最新商发版本的昇腾开发套件CANN
效需要15-30分钟。 创建子用户账号。在IAM左侧菜单栏中,选择“用户”,单击右上角“创建用户”,在“创建用户”页面中,添加多个用户。请根据界面提示,填写必选参数,然后单击“下一步”。 将子用户子账号加入用户组。在“加入用户组”步骤中,选择“用户组”,然后单击“创建用户”。系统将前面设置的多个用户加入用户组中。