当前位置:首页 » 《随便一记》 » 正文

GPU服务器使用SD- WebUI容器镜像快速将文本生成图像

5 人参与  2024年10月09日 14:00  分类 : 《随便一记》  评论

点击全文阅读


Stable Diffusion WebUI(以下简称SD-WebUI)镜像通过DeepGPU工具(例如AIACC Deepytorch)进行加速,您无需深入了解复杂的机器学习模型推理优化细节,便可开箱即用。对于需要文本生成图像的业务场景,在GPU实例上部署SD-WebUI容器镜像后可以提供更快的计算速度和更高的推理性能。本文为您介绍如何在GPU实例上部署SD-WebUI容器镜像来快速将文本生成图像。

背景信息

SD-WebUI是一个基于Gradio库的浏览器界面,用于使用Stable Diffusion生成图像,提供了一个简单易用的界面,可以让您快速将文本生成图像。SD-WebUI的优点:

相比Pytorch+xformer方案,在FP16精度下使用SD-WebUI进行模型的推理优化具有更好的性能,其加速性能提升1.5~4.0倍。

相比预编译优化方案,使用SD-WebUI进行模型的推理优化具有更好的灵活性,具有线上免编译、高效切换等特性。

支持Controlnet/Lora等功能的优化和热插拔,可以获得更高的推理性能和更快的文生图体验。

关于Stable Diffusion的更多信息,请参见Stable Diffusion。

重要

阿里云不对第三方模型Stable Diffusion的合法性、安全性、准确性进行任何保证,阿里云不对由此引发的任何损害承担责任。

您应自觉遵守第三方模型Stable Diffusion的用户协议、使用规范和相关法律法规,并就使用第三方模型的合法性、合规性自行承担相关责任。

准备工作

获取SD-WebUI容器镜像详细信息,以便您在GPU实例上部署该容器镜像时使用。例如,创建GPU实例时需要提前了解容器镜像适用的GPU实例类型,拉取容器镜像时需要提前获取镜像地址等信息。

登录容器镜像服务控制台。

在左侧导航栏,单击制品中心

仓库名称搜索框,搜索sd-webui,并选择目标镜像egs/sd-webui

SD-WebUI容器镜像大概每3个月内更新一次。镜像详情如下所示:

镜像名称

版本信息

镜像地址

优势

SD-WebUI

SD-WebUI:4.3.5-full

Python:3.10

PyTorch:2.1.2

CUDA:12.1.1

cuDNN:8.9.0.131

基础镜像:Ubuntu 22.04

egs-registry.cn-hangzhou.cr.aliyuncs.com/egs/sd-webui:4.3.5-full-pytorch2.1.2-ubuntu22.04

SD-WebUI镜像仅支持以下GPU实例选择,更多信息,请参见GPU计算型。

gn6e、ebmgn6e

gn7i、ebmgn7i、ebmgn7ix

gn7e、ebmgn7e、ebmgn7ex

操作步骤

本操作以Ubuntu 20.04操作系统的gn7i实例规格为例。

创建GPU实例并安装Tesla驱动。

具体操作,请参见创建GPU实例。

在GPU实例上使用SD-WebUI容器镜像,需要提前在该实例上安装Tesla驱动且驱动版本应为535或更高,建议您通过ECS控制台购买GPU实例时,同步选中安装GPU驱动

说明

GPU实例创建完成后,会同时自动安装Tesla驱动、CUDA、cuDNN库等,相比手动安装方式更快捷。

llm.png

远程连接GPU实例。

具体操作,请参见通过密码或密钥认证登录Liux实例。

执行以下命令,安装Docker环境。

sudo apt-get updatesudo apt-get -y install ca-certificates curlsudo install -m 0755 -d /etc/apt/keyringssudo curl -fsSL http://mirrors.cloud.aliyuncs.com/docker-ce/linux/ubuntu/gpg -o /etc/apt/keyrings/docker.ascsudo chmod a+r /etc/apt/keyrings/docker.ascecho \  "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.asc] http://mirrors.cloud.aliyuncs.com/docker-ce/linux/ubuntu \  $(. /etc/os-release && echo "$VERSION_CODENAME") stable" | \  sudo tee /etc/apt/sources.list.d/docker.list > /dev/nullsudo apt-get updatesudo apt-get install -y docker-ce docker-ce-cli containerd.io

执行以下命令,检查Docker是否安装成功。

docker -v

如下图回显信息所示,表示Docker已安装成功。

version.jpg

执行以下命令,安装nvidia-container-toolkit。

curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \  && curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \    sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \    sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.listsudo apt-get updatesudo apt-get install -y nvidia-container-toolkit

设置Docker开机自启动并重启Docker服务。

sudo systemctl enable docker sudo systemctl restart docker

执行以下命令,查看Docker是否已启动。

sudo systemctl status docker

如下图回显所示,表示Docker已启动。

docker restart.jpg

执行以下命令,拉取SD-WebUI镜像。

sudo docker pull egs-registry.cn-hangzhou.cr.aliyuncs.com/egs/sd-webui:4.3.5-full-pytorch2.1.2-ubuntu22.04

执行以下命令,运行SD-WebUI容器。

h_mdir=/host/models/ # host models dirc_mdir=/workspace/stable-diffusion-webui/models # container dirsudo mkdir -p $h_mdircd $h_mdir# 下载标准SD-1.5模型:sudo wget https://aiacc-inference-public-v2.oss-accelerate.aliyuncs.com/aiacc-inference-webui/models/v1-5-pruned-emaonly.safetensors#启动容器sudo docker run -c 32 --gpus all -it \-v ${h_mdir}/Stable-diffusion/:${c_mdir}/Stable-diffusion/ \-v ${h_mdir}/ControlNet/:${c_mdir}/ControlNet/ \-v ${h_mdir}/Lora/:${c_mdir}/Lora/ \-p 5001:5001 egs-registry.cn-hangzhou.cr.aliyuncs.com/egs/sd-webui:4.3.5-full-pytorch2.1.2-ubuntu22.04

SD-WebUI容器启动后,SD-WebUI服务自动启动。如果您需要自定义服务启动命令或端口,请参照以下命令进行修改。

cd /workspace/stable-diffusion-webuipython -u ./launch.py --ckpt-dir ./ckpts --listen --port 5001 --enable-insecure-extension-access --disable-safe-unpickle --api --xformers --skip-install

测试验证

为GPU实例的安全组配置5001端口,方便访问WebUI网站的用户界面。

5001端口.jpg

主要参数说明如下所示,具体操作,请参见添加安全组规则。

参数

说明

端口范围

设置为5001端口,作为访问网站界面的端口。

授权对象

设置为您本地主机的IP(公网IP)。

在浏览器中输入http://<GPU实例的公网IP>:5001访问SD-WebUI网站。

在Web页面的文生图页签下,输入文本提示词,单击生成/Generate,等待生成图像。

wenshengtu.jpg


点击全文阅读


本文链接:http://m.zhangshiyu.com/post/169493.html

<< 上一篇 下一篇 >>

  • 评论(0)
  • 赞助本站

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。

最新文章

  • 祖母寿宴,侯府冒牌嫡女被打脸了(沈屿安秦秀婉)阅读 -
  • 《雕花锦年,昭都旧梦》(裴辞鹤昭都)完结版小说全文免费阅读_最新热门小说《雕花锦年,昭都旧梦》(裴辞鹤昭都) -
  • 郊区41号(许洛竹王云云)完整版免费阅读_最新全本小说郊区41号(许洛竹王云云) -
  • 负我情深几许(白诗茵陆司宴)完结版小说阅读_最热门小说排行榜负我情深几许白诗茵陆司宴 -
  • 九胞胎孕妇赖上我萱萱蓉蓉免费阅读全文_免费小说在线看九胞胎孕妇赖上我萱萱蓉蓉 -
  • 为保白月光,侯爷拿我抵了债(谢景安花田)小说完结版_完结版小说全文免费阅读为保白月光,侯爷拿我抵了债谢景安花田 -
  • 陆望程映川上官硕《我的阿爹是带攻略系统的替身》最新章节阅读_(我的阿爹是带攻略系统的替身)全章节免费在线阅读陆望程映川上官硕
  • 郑雅琴魏旭明免费阅读_郑雅琴魏旭明小说全文阅读笔趣阁
  • 头条热门小说《乔书意贺宴临(乔书意贺宴临)》乔书意贺宴临(全集完整小说大结局)全文阅读笔趣阁
  • 完结好看小说跨年夜,老婆初恋送儿子故意出车祸_沈月柔林瀚枫完结的小说免费阅读推荐
  • 热推《郑雅琴魏旭明》郑雅琴魏旭明~小说全文阅读~完本【已完结】笔趣阁
  • 《你的遗憾与我无关》宋怀川冯洛洛无弹窗小说免费阅读_免费小说大全《你的遗憾与我无关》宋怀川冯洛洛 -

    关于我们 | 我要投稿 | 免责申明

    Copyright © 2020-2022 ZhangShiYu.com Rights Reserved.豫ICP备2022013469号-1