ComfyGen – 英伟达联合特拉维夫推出的文本到图像生成系统-爱论文

ComfyGen是什么

ComfyGen是由NVIDIA和特拉维夫大学研究人员推出的一种文本到图像生成系统，基于大型语言模型（LLM）自动创建与用户文本提示相匹配的工作流，提升图像生成的质量。系统解决传统单体模型在生成图像时存在的限制，结合多个专业组件如微调基础模型、LoRAs、嵌入、超分辨率步骤等构建复杂的工作流。ComfyGen提出两种基于LLM的方法：一种是基于用户偏好数据的调优方法，另一种是无需训练、直接选择现有流程的方法。两种方法显示出比传统模型或通用工作流更高的图像质量。

ComfyGen的主要功能

自适应工作流生成：根据用户的文本提示自动创建最适合的图像生成工作流。多组件协同：结合微调基础模型、LoRAs、嵌入、超分辨率步骤等多种专业组件构建复杂工作流。质量提升：基于优化工作流提高生成图像的质量，更符合用户的文本提示。自动化流程设计：减少设计有效工作流所需的专业知识，自动化流程设计适应不同的文本提示。LLM预测集成：基于大型语言模型（LLM）预测和选择与文本提示最匹配的图像生成流程。

ComfyGen的技术原理

数据收集与训练集构建：研究人员收集一组由人类创建的ComfyUI工作流，基于对工作流的参数（如基础模型、LoRAs、采样器等）进行随机交换来增强数据集。用一组文本提示生成图像，基于美学和人类偏好预测器对图像进行评分，形成包含提示、工作流、分数的三元组数据集。LLM预测：ComfyGen基于LLM预测给定文本提示的最优工作流。涉及到两种方法：上下文方法（ComfyGen-IC）：给LLM提供一个包含工作流及在不同类别中的得分的表格，要求为新的文本提示选择最合适的工作流。微调方法（ComfyGen-FT）：微调一个LLM，在给定文本提示和目标分数的情况下，预测能达到目标分数的工作流。工作流生成：在推理阶段，ComfyGen接收一个文本提示和一个高分数作为输入，LLM预测出一个与条件相匹配的工作流。图像生成与评估：用预测出的工作流生成图像，哟个人类偏好和图像质量评估指标评估生成的图像。

ComfyGen的项目地址

项目官网：comfygen-paper.github.ioarXiv技术论文：https://arxiv.org/pdf/2410.01731v1

ComfyGen的应用场景

艺术创作：艺术家和设计师用ComfyGen生成具有特定风格和主题的图像，加速创作过程，探索新的视觉概念。游戏开发：游戏开发者用ComfyGen快速生成游戏环境中的背景、角色概念图或其他游戏元素，提高开发效率。广告和营销：营销团队用ComfyGen设计广告图像和营销材料，确保与广告文案和品牌信息相匹配。电影和娱乐行业：电影制作人和视觉特效团队用ComfyGen创建电影中的场景概念图或特效图像，辅助前期制作和视觉效果设计。教育和研究：教育工作者和研究人员用ComfyGen生成教学材料中的插图，在进行科学可视化时创建精确的图像。