AI开发平台MODELARTS-MiniCPM-V2.0推理及LoRA微调基于Lite Server适配PyTorch NPU指导(6.3.910):Step4 安装依赖和软件包

时间:2025-03-12 09:40:17

Step4 安装依赖和软件包

  1. git clone和git lfs下载大模型可以参考如下操作。
    1. 由于欧拉源上没有git-lfs包,所以需要从压缩包中解压使用,在浏览器中输入如下地址下载git-lfs压缩包并上传到容器的/home/ma-user目录下
      https://github.com/git-lfs/git-lfs/releases/download/v3.2.0/git-lfs-linux-arm64-v3.2.0.tar.gz
      或直接下载到容器,这样在容器中可以直接使用。
      cd /home/ma-user
      wget https://github.com/git-lfs/git-lfs/releases/download/v3.2.0/git-lfs-linux-arm64-v3.2.0.tar.gz
    2. 进入容器,执行安装git lfs命令。
      cd /home/ma-user
      tar -zxvf git-lfs-linux-arm64-v3.2.0.tar.gz 
      cd git-lfs-3.2.0 
      sudo sh install.sh
    3. 设置git配置去掉ssl校验。
      git config --global http.sslVerify false
  2. 从github拉取MiniCPM-V代码。
    cd /home/ma-user
    git clone https://github.com/OpenBMB/MiniCPM-V.git
    cd /home/ma-user/MiniCPM-V
    git checkout ba27a162aa236e17036bb903
  3. 获取openbmb/MiniCPM-V-2模型。
    cd /home/ma-user
    git clone https://huggingface.co/openbmb/MiniCPM-V-2
    cd /home/ma-user/MiniCPM-V-2
    git checkout ee00ff7ce36667e7df81cb2a0
  4. 安装MiniCPM-V2_0 Ascend软件包。
    1. 将获取到的MiniCPM-V Ascend软件包AscendCloud-AIGC-*.zip文件上传到容器的/home/ma-user目录下。获取路径参见表2
    2. 解压AscendCloud-AIGC-*.zip文件,解压后将里面指定文件与对应MiniCPM-V文件进行替换。
      cd  /home/ma-user
      unzip AscendCloud-AIGC-*.zip -d ./AscendCloud
      cd AscendCloud/multimodal_algorithm/MiniCPM-V2_0/
      dos2unix install.sh
      bash install.sh

      AscendCloud-AIGC-*.zip后面的*表示时间戳,请按照实际替换。

      MiniCPM-V2_0 Ascend软件包内容如下:
      |---MiniCPM-V2_0/
          --- infer.py      推理示例代码
          --- install.sh    安装torch-npu适配修改及优化脚本
          --- model_modify.patch    优化模型融合算子git patch文件
          --- modify.patch          适配优化MiniCPM-V2.0代码git patch文件
          --- README.md             适配文档基于官方代码commit id说明
support.huaweicloud.com/bestpractice-modelarts/modelarts_aigc_minicpmv2_910.html