Controlnet、SD WebUI Forge 和 LayerDiffusion 的作者 lllyasviel 大神最近又推出了一个新的项目 IC-Light,可以实现控制一张图像的光照方向和色调氛围,今天一起我们了解一下它的特点及用法~
IC-Light是什么
IC-Light是”Imposing Consistent Light (营造一致的光线)” 的缩写,它是一个照明控制项目。由ControlNet作者张吕敏开发的AI图像打光处理工具,可以对图片进行光源操纵和光影重构,实现与不同背景的完美融合。用户只需上传图片,通过文本和背景图对前景内容进行照明控制,使前景主体与背景环境光照一致,从而让二者融为一体。
IC-Light便能自动抠图并生成融合了新光源和背景的新图片。该工具支持文本条件和背景条件下的图像重照明,适用于多种场景,包括日常照片编辑、电商商品海报制作等,目前已开源,可通过GitHub获取相关模型和代码。
从官方放出的截图中可以看出,IC-Light 可以对色调氛围和光照方向进行控制。如提示词写了 “窗外的阳光”,那么处理后的图像中人物身上就会有明显的光影,整体色调也会变成温暖的橘色;如果提示词写的霓虹灯光,则画面会变成暗调的红蓝光。
光照方向则可以通过 Lighting Preference 选项来控制,支持左侧光、右侧光、底部光和顶部光。即使原图中的光影非常复杂,IC-Light 也可以重新进行打光。
IC-Light 主要功能
图像重打光:IC-Light能够改变图片的光源效果,使得图片在视觉上与新的背景或环境融合得更加自然。
文本条件重照明:用户可以通过输入描述性的文字提示,如“左侧光线”、“月光”等,来指导IC-Light生成具有特定光照效果的图像。
背景条件模型:IC-Light还可以根据背景图片的提示信息,对前景物体进行不同风格的光照变化,而无需复杂的文字描述。
光源方向选择:用户可以指定光源的方向,比如从左侧、右侧或上方照射,以创造出更加逼真的光照效果。
自动抠图:IC-Light具备自动抠图功能,能够将上传的图片中的主体与背景分离,进而进行光照效果的调整。
风格化融合:IC-Light支持将图片与不同风格的背景进行融合,如赛博朋克风格、科幻风格等,增加了图片编辑的创意空间。
一致性保证:通过潜在空间的一致性,IC-Light确保在不同光源组合下,模型输出的光照效果具有高度的一致性。
IC-Light 如何使用
运行Gradio:下载GitHub源码本地运行或者访问Hugging Face的在线版Gradio Demo
上传图片:上传一张你想要编辑的图片。这张图片将作为前景主体,IC-Light会在此基础上进行光照效果的调整。
选择光源位置:根据你想要实现的光照效果,选择光源的方向。IC-Light允许用户指定光源是从左侧、右侧、顶部或任何其他方向照射。
输入提示词:对于文本条件重照明模型,你需要输入描述性的提示词,比如“温暖的阳光”、“昏暗的灯光”等,这些提示词将指导IC-Light生成相应的光照效果。
选择背景(可选):如果需要,你可以选择一张背景图片,IC-Light会将前景图片与所选背景进行融合,创造出新的光照和背景效果。
调整参数:根据需要,你可能需要调整一些额外的参数,如光源的大小、模糊度或颜色等,以获得最佳的视觉效果。
生成新图片:完成上述步骤后,IC-Light将自动处理图片,并生成一张新的图片,其中包含了你所指定的光照效果。
IC-Light 应用场景
个人照片编辑:用户可以上传个人照片,通过IC-Light改变光照效果,使得照片看起来更具艺术感或适应不同的背景环境。
专业摄影后期:摄影师可以使用IC-Light对拍摄的照片进行光照调整,以获得更加理想的光照效果,提升作品的专业品质。
电商产品展示:电商平台可以利用IC-Light将产品图片与各种背景融合,创造出更具吸引力的商品展示效果。
广告和海报设计:设计师可以借助IC-Light快速实现广告或海报中的光影效果,提高设计效率和创意表现。
模拟真实环境光照:在3D建模和渲染领域,IC-Light可以用来模拟真实世界的光照条件,提升模型的真实感。
IC-Light 使用方法
1. 在线体验
Huggingface 已经有了 IC-Light 的在线使用 Demo,可以直接体验其光照控制功能。使用方式也非常简单,上传一张人物图像,用文本描述新的背景内容和色调氛围,然后在 Lighting Preference 中设置光照的方向,最后点击 Relight 生成就可以了。
2. ComfyUI
ComfyUI 目前已经有多个实现 IC-Light 的插件,此处我使用的是原生的插件 ComfyUI-Gaffer,我们可以通过 git clone 或者 Comfyui Manager 安装。
插件安装成功后,需要下载 3 种 IC-Light 模型 (文末有资源包),安装到 ComfyUI/models/iclight 文件夹中,三种模型目前只适用于 SD 1.5 模型,作用分别为:
- iclight_sd15_fc.safetensors:默认的重照模式,以文本和前景为条件。您可以使用初始潜影来影响重照效果。在 FG 工作流程中使用它
- iclight_sd15_fcon.safetensors: 与 “iclight_sd15_fc.safetensors ”相同,但使用偏移噪声进行训练。在 FG 工作流程中使用它
- iclight_sd15_fbc.safetensors: 以文本、前景和背景为条件的重新照明模型。在 BG 工作流程中使用它
除了 ComfyUI,lllyasviel 自研的 SD WebUI Forge 也已经有了 IC-Light 的插件,可以在 「extension」中通过网址安装。然后下载 clight_sd15_fc_unet_ldm(用于前景)和 iclight_sd15_fbc_unet_ldm(用于背景)两个模型,安装到根目录的 stable-diffusion-webui-forge/models/unet(没有 unet 文件夹手动创建一个)。
SD WebUI Forge 中也支持从文本生成背景、控制照明方向和上传背景图对给定前景造成影响。需要注意的是:
- 如果是自己上传背景图,需要将照明模型又 FC 转为 FBC;
- CFG 数值要调低,一般为2;
- 控制光照方向时,插件为自动在图生图版块生成灰度图,此处的 CFG 同样要调整为2,重绘幅度要调高为1。
请登录后查看评论内容