TINKER: Diffusion's Gift to 3D--Multi-View Consistent Editing From Sparse Inputs without Per-Scene Optimization

Редактор 3D сцен на гауссианах текстовыми указаниями

— не требует много исходных данных;

— не нуждается в настройке для каждой сцены;

— может редактировать 3D с одним или несколькими входными данными;

— создаёт согласованные правки с несколькими ракурсами по 1–2 изображениям;

— реконструирует видео по первому кадру и глубине;

— улучшает качество 3DGS

Код ждем, с интеграцией в NerfStudio

#gaussian #3dediting

Griffith Voice — AI Voice Cloner & Dubber

Проект соло-разработчика для дубляжа видео с клонированием оригинальных голосов на Whisper / GPT / GPT-SoVITS

На вход нужно только видео. Поддерживает Английский, корейский? японский, китайский.

В разработке: русский!, французский, арабский, немецкий

Работает на 4GB VRAM

#dubbing #voicecloning #translation

Nunchaku Qwen-Image in ComfyUI

Nunchaku объявили о поддержке своих квантов #qwenimage в #ComfyUI

Поддержку лор обещают в грядущих апдейтах

Версия еще не добавлена в реестр ComfyUI, используйте nunchaku v1.0.0dev20250823

Веса
воркфлоу
Реддит

#workflow #optimization

Наш русскоязычный датасет для TTS опубликован!

Сегодня выкладываем открытые корпуса на 4000+ часов речи, а еще синтезатор речи ESpeech-TTS-1

Наш датасет содержит больше 4000 часов русской речи. Статистика по корпусам:

Многоголосые:
ESpeech-podcasts - 3200 часов
ESpeech-webinars - 850 часов

Одноголосые:
ESpeech-igm - 220 часов
ESpeech-buldjat - 54 часа
ESpeech-upvote - 296 часов
ESpeech-tuchniyzhab - 306 часов

Данные лежат вот тут: https://huggingface.co/ESpeech

Техрепорт датасета доступен тут: https://github.com/Den4ikAI/ESpeech/blob/main/ESpeech_techreport.pdf


Также, мы решили провести некоторые эксперименты с TTS. Получилось обучить F5-TTS на 10000 часов речи и сделать одну из лучших по нашим замерам моделей в опенсурсе для русского языка.

Какие модели доступны?
ESpeech-TTS-1 [RL] V1 - Первая версия модели с RL
ESpeech-TTS-1 [RL] V2 - Вторая версия модели с RL
ESpeech-TTS-1 PODCASTER [SFT] - Модель обученная только на подкастах, лучше генерирует спонтанную речь
ESpeech-TTS-1 [SFT] 95K - чекпоинт с 95000 шагов (на нем основана RL V1)
ESpeech-TTS-1 [SFT] 265K - чекпоинт с 265000 шагов (на нем основана RL V2)

Лайкайте модель которая больше понравится чтобы мы понимали есть ли смысл запускать RL.

Послушать модели без скачивания можно вот здесь:

https://huggingface.co/spaces/Den4ikAI/ESpeech-TTS

Совместно с @speech_recognition_ru ещё сделали лидерборд русского ТТС, где можно глянуть метрики:

https://huggingface.co/spaces/ESpeech/open_tts_leaderboard_ru
Задать вопросы по поводу данных и модели можно в наших телеграм каналах:
https://news.1rj.ru/str/den4ikresearch
https://news.1rj.ru/str/voice_stuff_chat

Вы можете мне задонатить, чтобы у меня были ресурсы делать более крутые модели и датасеты:

USDT (TRC20): TEpEM4VVmGmqKHn4Xz1FxM7qZiXjWtUEUB
BTC: bc1qw5lq7fc455e47hggax6zp8txw4ru7yvsxvawv3
https://www.tbank.ru/cf/7WKnNMqWtOx

Qwen Image ControlNet & LoRA, EasyCache and Context Window in ComfyUI

Обновки в #ComfyUI :

- поддержка Qwen Image с ControlNet и LoRA

- нода EasyCache ускоряет генерацию на 20 % для видеокарт Blackwell

- возможность последовательно подключать стили LoRA в рабочих процессах Qwen-Image

- работа со скользящими контекстными окнами

#qwenimage #lora #controlnet #optimization

Wan-S2V: Audio-Driven Cinematic Video Generation

Релиз обещанного видеогенератора, который принимает на вход картинку и звук

Архитектурно - совет экспертов ( #MoE )

Как видим, умеет работать с диалогами и пением

Гитхаб
HF
Демо
Офсайт - пока не вижу его там, ждем

До появления компактных версий и обновок от Kijai 5... 4... 3...

Спасибо @iNevestenko

#image2video #audio2video #referencing #wan22