【原】GLIGEN用户界面，精确 AI 图像合成

Mixlab交叉学科 2024-03-23 发布于上海

展开全文

通过Gligen生成的图像，凭借其令人难以置信的精确度，使您能够在图片中选择单个元素的位置。底层是ComfyUI的用户界面将提升AI图像生成的创造力和控制水平。让我们来探索如何下载和安装这些工具！

介绍

GLIGEN，即基于语言的图像生成（Grounded-Language-to-Image Generation），是一种相对较新的从文本中创建图像的方法，简单且有效。与仅使用文本的旧方法不同，GLIGEN允许您在描述中添加额外的细节，称为基准输入（grounding inputs），从而使您对图像的最终组成有更多的控制。

这就是GLIGEN的特殊之处：它允许您在文本中包含额外的信息，比如

框：您可以说明物体在图片中应该放置在哪里。

图像：您甚至可以使用另一张图片来影响风格或外观。
其他输入：它可以使用不同类型的细节，如关键点或深度图，用于特殊效果。

通过将文本与这些额外的细节混合在一起，比如通用的文本提示，GLIGEN可以更好地生成与您想要的相符的图片，将元素准确地放置在您想要的位置上。

那么使用GLIGEN可以得到什么？

更多控制：GLIGEN让您可以完全决定图片的最终效果。

更好的创造力：在单张图片中结合多个不同的元素。

这确实非常有用，特别是在复杂的构图中，您通常可能依赖冗长而复杂的文本提示来描述所需的图片中的一切。此外，仅使用文本在图像中定位物体可能具有挑战性，因为稳定扩散可能不容易理解复杂的指令。

通过使用框来指定特定位置生成元素，GLIGEN简化了将您的文字转化为图片的过程。虽然这种方法可能看起来有些抽象，但我们可以通过一个实际的例子来深入探讨如何使用这种技术。

Gligen UI 教程

GLIGEN发布于2023年1月，但直到最近有一个新的gligen-ui，我才意识到之前没有一个好用的用户界面可以使用这种技术。我对此感到很好奇，决定尝试一下，并将向您介绍如何开始进行实验。

这个新鲜而全新的用户界面可以在 https://github.com/mut-ex/gligen-gui 下载。

在开始之前，请确保您的计算机上已经启动并运行了ComfyUI。您可以使用默认的工作流程保持ComfyUI处于打开状态；只需确保您拥有基于Stable Diffusion 1.5的扩散模型。如果您需要关于ComfyUI的帮助，请查看往期教程。

安装

让我们开始吧：下载Gligen模型并将其放置在以下目录中：ComfyUI\models\gligen

您可以在此链接中找到HuggingFace上的模型

https:///comfyanonymous/GLIGEN_pruned_safetensors/tree/main

假设您已经安装了Python和Git，您可以按照README中概述的步骤开始操作。已创建了一个Python虚拟环境，以将该工具与其他Python库隔离开来。

conda create -n gligen

conda activate gligen

然后，要安装实际的用户界面，您需要在终端中执行以下命令：

pip install flask

git clone https://github.com/mut-ex/gligen-gui.git

cd gligen-gui

flask --app "gligen_gui:create_app(8188)" run --port 5000

最后一个命令是实际启动应用程序的命令。请确保在最后的命令中使用双引号，否则可能会出现错误。如果在终端中看到这一行，表示您的应用程序已准备就绪。

Go to: http://127.0.0.1:5000/port/8188.

现在，打开一个浏览器并导航到上面提到的URL。用户界面应该会加载在页面上。

图像合成

首先，您需要在脑海中有一个图像的想法。然后，在画布的左上部分拖动鼠标以绘制边界框。接下来，通过在右侧表格中的相应文本输入中输入提示来为这些框进行标注。建议一开始保持这些提示简单，这样您可以更好地理解工具的功能。

如果您希望提供有关您的图像的其他详细信息，您可以使用名为“POSITIVE”的文本输入框。然而，为了获得最佳结果，建议您坚持使用与所需风格和图像质量相关的标签。

确保从下拉菜单中选择一个检查点。然后，当所有的框都准备好时，点击“Queue prompt”。请记住，第一次尝试生成的图像可能不完美；您需要进行实验以了解框是如何相互作用和融合内容的。有时，一个框可能生成一张与其余组合不太匹配的图像，所以根据需要随时删除和替换框。这些是我在使用相同提示进行实验后所做的更改：