AI视觉生成技术 - 当前AI视觉生成领域主流是基于Transformer架构的扩散模型，如Stable Diffusion和Sora，这些模型虽然生成效果好但计算开销大、推理速度慢[4] - 北大、北邮和华为的研究团队提出了一种纯卷积的扩散模型DiC，采用3x3卷积而非Transformer架构，在性能和推理速度上都有显著提升[1][5] - DiC模型证明了经过精心设计，简单的卷积网络依然能在生成任务中达到顶尖水平，挑战了生成模型必须依赖自注意力的固有观念[24] 技术架构创新 - DiC采用U-Net Hourglass架构而非Transformer的直筒形堆叠架构，通过下采样和上采样弥补了3x3卷积感受野受限的问题[13] - 模型减少了U-Net的跳连频率，降低了计算冗余，同时采用分阶段嵌入、条件门控机制等优化手段提升生成质量[14] - 将常用的SiLU激活函数替换为GELU，带来了一定的效果提升[15] 性能表现 - 在ImageNet 256×256测试中，DiC-XL的FID分数从DiT-XL/2的20降低到13，IS分数也大幅提升[17] - DiC-XL的推理吞吐量达到313.7，是DiT-XL/2(66.8)的近5倍，展现了显著的效率优势[17][18] - 在512x512分辨率下，DiC-XL用比DiT-XL/2更少的计算量，实现了更好的生成效果和更快的速度[22] 训练效率 - 不使用cfg时，DiC的收敛速度是DiT的十倍；使用cfg时FID可以达到2.25[18] - DiC-H模型在400K训练步数时FID为11.36，600K时降至9.73，800K时进一步降至8.96，展现了良好的训练扩展性[19] - 在相同设定下，DiC-H仅需256×2M的训练就能达到2.25的FID，优于DiT-XL/2需要256×7M训练才能达到的2.27[20]