AI开发平台MODELARTS-InternVL2基于DevServer适配PyTorch NPU训练指导(6.3.910):步骤六:增加适配代码

时间:2025-01-03 09:38:54

步骤六:增加适配代码

表3 添加优化代码

模型

使用方法

internVL2-40B

internVL2-40B模型需要执行下列步骤。

cd ${container_work_dir}/multimodal_algorithm/ascendcloud_multimodal_plugin 
pip install -e .
cd ${container_work_dir}

修改InternVL/internvl_chat/internvl/train/internvl_chat_finetune.py 文件,加入如下命令,用于引入优化代码包。

from ascendcloud_multimodal.train.models.internvl2 import ascend_modeling_internvl

执行如下命令添加优化代码。

cp -rf multimodal_algorithm/ascendcloud_multimodal_plugin/ascendcloud_multimodal/train/models/internvl2/modeling_intern_vit.py ${container_work_dir}/InternVL/internvl_chat/internvl/model/internvl_chat/modeling_intern_vit.py

internVL2-8B或

internVL2-26B

internVL2-8B或internVL2-26B模型需要执行如下命令添加优化代码。

cd ${container_work_dir}
cp -rf multimodal_algorithm/ascendcloud_multimodal_plugin/ascendcloud_multimodal/train/models/internvl2/modeling_intern_vit.py ${container_work_dir}/InternVL/internvl_chat/internvl/model/internvl_chat/modeling_intern_vit.py
cp -rf multimodal_algorithm/ascendcloud_multimodal_plugin/ascendcloud_multimodal/train/models/internvl2/modeling_internlm2.py  ${container_work_dir}/InternVL/internvl_chat/internvl/model/internlm2/modeling_internlm2.py
support.huaweicloud.com/bestpractice-modelarts/modelarts_aigc_internvl2_910.html