AI开发平台MODELARTS-在DevServer上部署SD WebUI推理服务:Step4 进入容器运行

时间:2024-09-14 22:29:43

Step4 进入容器运行

  1. 进入容器后执行启动命令。
    docker exec -it ${container_name} bash
    python3 launch.py --port 8183 --skip-torch-cuda-test --enable-insecure-extension-access --listen --log-startup --disable-safe-unpickle --api

    等待克隆仓库,下载依赖模型,启动成功后显示如图1所示。

    图1 启动成功后显示

    如果在安装编译handrefinerportable时出错,则需手动下载whl包:

    wget https://github.com/huchenlei/HandRefinerPortable/releases/download/v1.0.1/handrefinerportable-2024.2.12.0-py2.py3-none-any.whl
    pip install handrefinerportable-2024.2.12.0-py2.py3-none-any.whl --no-deps
  2. 验证PyTorch版本,需要torch==2.1.0。
    pip list | grep torch
    #如果不是2.1.0版本,请重新安装
    pip uninstall torch
    pip install torch==2.1.0
  3. 验证效果。
    1. 新开启一个终端,执行以下命令。
      curl --noproxy '*' -kv -X POST localhost:8183/sdapi/v1/txt2img -H "Content-Type: application/json" -d '{"prompt":"ultrarealistic shot of a furry blue bird"}'

      执行成功显示:

      图2 执行成功显示
    2. 在浏览器输入http://{宿主机ip}:8183,可以访问前端页面,通过输入文字生成图片。
      图3 输入文字生成图片

      注意需要勾选Enable Flash Attention按钮。

      图4 Enable Flash Attention优化按钮
support.huaweicloud.com/bestpractice-modelarts/modelarts_webui_9082.html