AI开发平台MODELARTS-在DevServer上部署SD WebUI推理服务:步骤四进入容器运行

时间：2024-11-05 09:54:35

AI开发平台MODELARTS

步骤四进入容器运行

进入容器后执行启动命令。

docker exec -it ${container_name} bash
python3 launch.py --port 8183 --skip-torch-cuda-test --enable-insecure-extension-access --listen --log-startup --disable-safe-unpickle --api

等待克隆仓库，下载依赖模型，启动成功后显示如图1所示。

图1 启动成功后显示

如果在安装编译handrefinerportable时出错，则需手动下载whl包：

wget https://github.com/huchenlei/HandRefinerPortable/releases/download/v1.0.1/handrefinerportable-2024.2.12.0-py2.py3-none-any.whl
pip install handrefinerportable-2024.2.12.0-py2.py3-none-any.whl --no-deps

如果启动不成功，验证PyTorch版本，需要torch==2.1.0。

pip list | grep torch
#如果不是2.1.0版本，请重新安装
pip uninstall torch
pip install torch==2.1.0

验证效果。
1. 新开启一个终端，执行以下命令。
```
curl --noproxy '*' -kv -X POST localhost:8183/sdapi/v1/txt2img -H "Content-Type: application/json" -d '{"prompt":"ultrarealistic shot of a furry blue bird"}'
```
  执行成功显示：
  
  图2 执行成功显示
2. 在浏览器输入http://{宿主机ip}:8183，可以访问前端页面，通过输入文字生成图片。
  图3 输入文字生成图片
  
  注意需要勾选Enable Flash Attention按钮。
  
  图4 Enable Flash Attention优化按钮