在SD和comfyui如何实现图片融合?

在AI创作领域,我们有时候喜欢在探索新的图片表现形式和创作手段。随着人工智能技术的不断发展,利用图像生成AI工具为艺术创作带来了全新的可能性。Stable Diffusion就是一种先进的文本到图像生成模型,它不仅能够根据文本描述生成逼真的图像,还可以实现图像融合的功能。

图像融合技术的要求是允许将两张或多张现有图像的视觉元素融合到一个全新的图像中。这为艺术家们开辟了无限的创作空间,他们可以将不同风格、主题的图像素材自由混合,创造出前所未有的视觉效果。无论是将照片与油画风格相融合,还是将动物元素与城市景观交织在一起,抑或是将梦幻元素注入现实场景,图像融合技术都能为普通AI玩家提供充分的创作自由。

但是,要高质量地实现图像融合并非易事。它需要AI模型具备足够的理解能力,能够精准把握每个输入图像的主要视觉元素,并巧妙地将它们融合在一起,使生成的图像既保留了原有元素的特征,又呈现出全新的视觉体验。

今天讲一下如何用Stable Diffusion实现融合两张或多张图片。通常有以下几种常见方法:

controlnet

    可以使用controlnet模式,将一张图片作为初始种子图片输入,Stable Diffusion会在这两张图片之间内插生成新的图像。调节种子权重(seed weights)可以控制生成图像离每张输入图像的距离。

    下面就以特别的艺术二维码为例,写一篇生成教程:

    首先需要做一下准备工作,就是生成自己二维码的内容。可以在这个网站上生成-草料二维码生成器 (cli.im)

    填写内容后生成即可,我这里以二维码举例。

    在部署好的SD后台打开controlnet插件,勾选启用、pixel perfect,预处理器内填写none,模型选择control_v1p_sd15_qrcode。control weight 1.3(权重:权重越高、生成的图片内二维码显示越清晰),Starting Control Step 0(即生成二维码的开始时间,如果是0.3,意义是在生成全周期内的30%开始生成二维码),Ending Control Step 0.9(即生成二维码的结束时间,如果是0.8,意义是在生成全周期内的80%结束生成二维码),

    对于二维码需要辨识度高的图片,权重建议设置1.3-2,开始建议设置在0-0.2,结束建议设置在0.7-1,。如果权重过高,无法形成有效的艺术效果,如果权重过低,则无法获得有效的二维码,可以根据自己需求和通过扫码测试不断调整。

    以下是我生成的二维码:

    我自己测试的是将图片缩小到足够小的程度是可以扫描出来的,毕竟太详细会由太多干扰因素导致无法通过扫码辨识出来。

    同样的道理,可以使用controlnet的Brightness模型来实现下面最近特别火的光影效果图片,该女孩身上能够隐约看到【无敌】的光影文字:

    下面说说如何使用来comfyui,通过控制不同的区域生成内容来实现图片融合:

    如果不太清楚关于comfyui如何搭建,可以在我的主页搜索对应关键词查找相关教程:

    可以按照下图的工作流来实现生成两张图片,即两个512×512分辨率,通过提示词框然后分别设定人物的提示词,并将生成界面进行融合,如下图所示:

    在正提示词内,1是输入了【a beatiful girl,green hair 】,2是输入了【a beautiful girl,red hair】,然后做了一个combine,与另外一个正提示词【street,night】作为连接,这样将两张图片自然的融入到夜景街道上,使得整体看起来统一和谐。

    这时候有同学问了:“为什么感觉comfyui框框线线的很复杂,我完全没有基础怎么办?有没有现成的工作流可以提供使用?“

    答案是可以的,这里我推荐两个可以直接免费下载工作流的网站:

    1是大名鼎鼎的C站:https://civitai.com/,直接在搜索中输入工作流:workflow,找到自己需要的直接下载即可;

    2是https://comfyworkflows.com/这个网站,使用方式和上面一样:

    也是查找自己需要的workflow,然后将Json文件导入到web界面即可:

    这时候又有同学问了:“导入下载好的json为什么会出现很多红色的框框?“其实这是由于缺失必要的节点导致的,可以尝试如下步骤:

    打开comfyui右下角【manager】选项,弹出【comfyui manager menu】窗口:

    选择【install missing custom nodes】,会出现新的对话框:

    点击【install】,等待下载完毕,直到出现如下界面:

    然后尝试重启【comfyui】,重新导入json文件即可,如下图所示:

    所有节点回归到正常显示,我们就可以使用已存在的工作流实现图片生成,而不需要自己再费功夫手动搭建。

    发表回复