Stable Diffusion人工智能AI绘图工具 以图生图制作炫酷的艺术二维码，Stable Diffusion + ControlNet隐秘二维码 自定义背景图片样式

Stable Diffusion创新和艺术的结合总是能带来令人惊叹的结果，如今在人工智能的世界中，产生创意更加便捷。上周刷屏社交圈的艺术二维码，就是技术创新和艺术结合的典范。它是由AI模型生成的艺术二维码，支持中国传统纹样、日本浮世绘、二次元、插画等多种风格。可惜原作者没有开源项目，但近期了解到可以用Stable Diffuison+ControlNet模型来实现，跟我一起去看看吧~

小编也在本地PC端使用Stable Diffusion + ControlNet制作了几个本站链接的艺术二维码实例，有兴趣可以扫描下面二维码访问试试二维码的识别速度！

它们不再是黑白方格的样子，而更像是一张美丽的图像，一眼看过去非常引人注目。更神奇的是，如果你拿起手机扫描这些的图像，真的会跳转到一个有效网址，是不是很不可思议？这种二维码就发展出更神奇的样式——黑白色块完全融入到画面中，第一眼根本看不出，但是依旧可以被手机扫描和识别。而达到这样的效果只需要一个新的 Controlnet 模型 QR code monster，今天展示一下具体的制作过程。

教程开始：

A.安装准备

首先想要实现上面艺术二维码的效果，普通的生成工具及网站比较不容易实现，所以我们需要借助Stable Diffusion + ControlNet + 普通二维码，以图生图的方式生成出来。

1. Python环境需要在3.10.16以上
2. 准备一个需要生成的二维码图片或者链接地址
3. 本地部署或者云端部署Stable Diffusion + ControlNet

B.ControlNet 模型

SD15_brightness：https://huggingface.co/ioclab/ioc-controlnet/tree/main/models (opens new window)

SD15_tile：https://huggingface.co/lllyasviel/ControlNet-v1-1/tree/main

下载后存放到 stable-diffusion-webui\extensions\sd-webui-controlnet\models 目录下。

注：建议将 ControlNet 插件升级到最新版本，支持更多预处理器，还有更方便好用的 UI。

C.生成二维码

我们先准备一张二维码图片，可以通过以下任意一个网址生成：

• 草料二维码：https://cli.im/
• QR.io：https://qr.io/

D.灰度处理

1. 上传二维码
2. ControlNet Unit 0：打钩启用（Enable）
3. 预处理器（Preprocessor）：inpaint_global_harmonious
4. 模型（Model）：control_v1p_sd15_brightness
5. 权重（Control Weight）：0.4
6. 开始与停止步骤（Starting Control Step、Ending Control Step）：0 和 1

注：如果你找不到 inpaint_global_harmonious 预处理器，把 ControlNet 插件升级到最新就有了。

注：如果你页面上没有多个 ControlNet 单元，可以到 Settings 中，找到 Multiple ControlNets 进行设置，详见：《AI – AI 绘画的精准控图(ControlNet)》

E.细节处理

1. 上传二维码
2. ControlNet Unit 1：打钩启用（Enable）
3. 预处理器（Preprocessor）：inpaint_global_harmonious
4. 模型（Model）：control_v11f1e_sd15_tile
5. 权重（Control Weight）：0.6
6. 开始与停止步骤（Starting Control Step、Ending Control Step）：0.35 和 0.75

F.配置描述

根据你希望在二维码画面中出现的东西进行配置，比如我希望在画面中出现一个战火中的高达，我的参数配置如下：

1. 正向提示词（Prompt）：masterpiece, best quality, mecha, no humans, black armor, blue eyes, science fiction, fire, laser canon beam, war, conflict, destroyed city background
2. 反向提示词（Negative prompt）：UnrealisticDream, FastNegativeEmbedding
3. 采样方法（Sampling method）：Euler a
4. 采样步数（Sampling steps）：26
5. CFG 比例（CFG Scale）：6.5
6. 随机种子（Seed）：1234843297

注：如果你不知道这些配置含义是什么，可以查阅这篇文章：《AI – stable-diffusion(AI 绘画)的搭建与使用》

配置完描述后，点击 Generate 按钮，等待图片生成即可：

至此，艺术化后的二维码就生成好了，而且是可以被正常扫码识别出来的哦~

G.后记

在上述实战中，出现了 1 个新的 ControlNet 预处理器和 2 个新的 ControlNet 模型，它们的作用分别是什么呢？

1.预处理器 inpaint_global_harmonious

inpaint_global_harmonious 主要用于局部（遮罩部分）重绘，在原生基于图生图的重绘模式上加入了 ControlNet 的控制，从而让 inpaint 能够更加准确的预测重绘细节。但是注意，和普通局部重绘不同，ControlNet 的 inpaint 模型除了重绘遮罩部分外，遮罩以外的地方也会发生微小变化（重绘），这样做带来的好处是它能够更好地将重绘区域与整体画面融合，让整体出图更加和谐统一。当然你也能将 ControlNet 引导权重调节到最大，此时 ControlNet-inpaint 模型将尽可能得保持遮罩区域以外的画面不发生变化。

上图是传统图生图的局部重绘，原图蒙版重绘部分往往会出现与周围环境不相容的独立景物，无法统一整体布局。

可以看到，对比传统图生图的局部重绘，ControlNet 的 inpaint 模型能在统一整体效果的前提下，补全蒙版部分的内容，同时遮罩外部分的轮廓和细节也得到了较好的保留。

2.模型 control_v1p_sd15_brightness

该模型为稳定扩散带来亮度控制，允许用户对灰度图像着色或对生成的图像重新着色。

上述介绍源自： https://aigc.ioclab.com/sd-showcase/brightness-controlnet.html
https://huggingface.co/ioclab/control_v1p_sd15_brightness

3.模型 control_v11f1e_sd15_tile

tile 模型原本是为了放大图片而设计的，具体来讲需要先将原图分割为一块一块的小区域(叫做 Tile 或瓦块)，然后分别对每个瓦块进行图生图放大，最后集合所有放大后的瓦块，拼成完整的大图。之所以采用局部放大后拼接的模式是为了减少显存占用。但是这样放大图片也有弊端，那就是必须要求每个小图在图生图时重绘幅度不能太大，因为本质上每个小图使用的也是全图提示词，当重回幅度过高时，老版本 tile 模型很可能会在每个小图里生成全图提示词所描绘的全部内容。

ControlNet1.1 版本后的 Tile 模型更加强大，它具有两种特性：

• 忽略图像中的细节并生成新的细节。
• 如果局部瓦片语义和提示不匹配，则忽略全局提示，并根据局部上下文引导扩散。

因为该模型可以生成新的细节并忽略现有的图像细节，所以我们可以使用该模型去除不良细节并添加细化的细节。例如，消除由图像大小调整引起的模糊。

上述介绍源自：https://github.com/lllyasviel/ControlNet-v1-1-nightly

H.分析

我将实战中两个 ControlNet 单元依次生成的图片拆开，得到如下过程图：

结合上述资料中对两个 ControlNet 模型的介绍，可以大致理解为 control_v1p_sd15_brightness 在二维码图片的基础上进行重新着色，但会丢失二维码信息，control_v11f1e_sd15_tile 则在此基础上，对二维码信息细节进行补充。至于预处理器 inpaint_global_harmonious，因为此场景下二维码并不需要进行 inpaint 处理，所以把预处理器设为 none 也是可以的，对结果并不影响。