SnapGen – Snap联合港科大等机构推出的移动端文生图模型-爱论文

SnapGen是什么

SnapGen是Snap Inc、香港科技大学、墨尔本大学等机构联合推出的文本到图像（T2I）扩散模型，能在移动设备上快速生成高分辨率（1024×1024像素）的图像，且只需1.4秒。模型用379M参数实现这一性能，显著减少模型大小和计算需求，同时在GenEval指标上达到0.66的高分，超越许多参数量更大的SDXL和IF-XL模型。SnapGen基于优化网络架构、跨架构知识蒸馏和对抗性步骤蒸馏等技术，实现在移动设备上的高效图像生成。

SnapGen的主要功能

高分辨率图像生成：在移动设备上快速生成高达1024×1024像素的高分辨率图像。快速生成能力：在1.4秒内完成图像生成，显著提高生成效率。优化的模型大小：SnapGen模型参数仅为379M，在图像质量上超越参数量更大的模型。跨架构知识蒸馏：基于从更大的模型中转移知识，提高小型模型的生成质量。对抗性步骤蒸馏：结合对抗性训练和知识蒸馏，实现几步生成高质量图像的能力。

SnapGen的技术原理

网络架构优化：对去噪UNet和自动编码器（AE）的网络架构进行深入检查，获得延迟和性能之间的最佳平衡，减少模型参数和计算复杂性，同时保持图像生成质量。多级知识蒸馏：基于跨架构从更大的模型中提取知识，用多级方法指导模型的训练，在保持较小模型尺寸的同时，实现高质量的图像生成。时间步长感知的缩放：在训练过程中，采用时间步长感知的缩放技术，结合多个训练目标，适应不同时间步长的预测难度。对抗性训练：结合对抗性训练和知识蒸馏，用几步教师模型实现快速的高质量图像生成。集成对抗性指导：在知识蒸馏过程中，整合对抗性指导，进一步提升生成图像的质量和真实感。高效的训练技术：引入改进的训练技术，包括流匹配作为目标，及在训练中用logit-normal采样，提高训练稳定性和生成质量。

SnapGen的项目地址

项目官网：snap-research.github.io/snapgenarXiv技术论文：https://arxiv.org/pdf/2412.09619

SnapGen的应用场景

社交媒体内容创作：用户快速生成个性化图像，用在社交媒体平台如Snapchat的帖子或故事。移动应用集成：在移动应用中集成SnapGen，提供用户即兴创作图像的功能，如虚拟试衣、滤镜效果预览等。游戏和娱乐：用在游戏内资产的快速生成，或在移动游戏中提供玩家自定义角色和环境的能力。教育和培训：用SnapGen生成教学材料中的图像，如科学图解或历史场景，增强学习体验。新闻和媒体：记者和媒体工作者快速生成新闻报道中需要的图像，提高报道的吸引力和表现力。