🧿 Imagen'а вам в ленту. Попутной диффузии

💻👀 A giant rabbit on a rainy city street, DSLR 10 megapixels

Так, тут что-то явно происходит… И скоро будет доступно всем..

Есть идеи что это? Кто первый угадает — тот первый угадает) Жду мысли по поводу того, что это за нейронная может быть комментах.

📓 Диффузионная сахарная SOTA: Elucidating the Design Space of Diffusion-Based Generative Models

Если без математики.. Помните пейпер iDDPM, который предложил ряд достаточно важных улучшений для трейна и инференса диффузии? Именно iDDPM стал стандартом современной диффузии, которую мы знаем. И сегодня iDDPM и являются одним из самых популярных и фундаментальных подходов к трейну. Все ваши любимые DALL•E 2 и Imagen это iDDPM на каскаде 64х64pix и DDIM инференс на более поздних.

Подход Karras et al., 2022 от NVIDIA является таким же прорывом по отношению к iDDPM, как и iDDPM к ванильному DDPM. Подход Karras et al. позволяет перебить Diffusion Models Beat GANs в ImageNet-64 с FID=2.07 и достигнуть значения в 1.55, что является просто колоссальнейшим скачком.

Самое интересное, что Катерина (она гений ml математики и кода) уже имплементировала этот подход. И он даже параллелится на Multi-GPU и multi-node с Hugging Face Accelerate (Accelerate — это явно некстген)

📄 paper
💻 code (Катерина) ✨

@мишин лернинг