echoinside – Telegram
echoinside
107 subscribers
834 photos
65 videos
41 files
933 links
ML in computer graphics and random stuff.
Any feedback: @fogside
Download Telegram
Forwarded from iggisv9t channel
Утащи с реддита
"An obstacle downstream propagates upstream. If you're not allowed to implement new ideas, you stop having them. And vice versa: when you can do whatever you want, you have more ideas about what to do. So [keeping a blog] makes your brain more powerful in the same way a low-restriction exhaust system makes an engine more powerful." — Paul Graham (who was, of course, writing about startups rather than blogging)
https://meltingasphalt.com/about/
Как сказки, только кибер.
https://www.soulmachines.com/

Познакомилась с похожим стартапом из Москвы.
https://malivar.io

Оказывается в мире действительно существует потребность в автоматизации рекламных роликов, в замене ведущих программ роботами, в инфлюенсерах-аватарах.
Soul machines делает это довольно неплохо, хотя все еще сохраняется это ощущение uncanny valley. Но как заметил СЕО Malivar, если целевая аудитория это подростки, то им даже может быть интереснее находить косяки в сгенеренном таким путем контенте. Это можно сказать, разыгрывает их интерес.
Also, выпустили вот статью, где заменили resnet connections на некие ReZero connections.
Повставляли все это дело в трансформер, настакали более 100 слоев и смогли это все обучить как LM.
До этого обучение более 12 слоев трансформера уже было весьма сложной задачей, требующей много ресурсов и данных. Также показали, что замена resnet connections на ReZero connections в ResNet56 повышает скорость сходимости на датасете CIFAR-10.
Кроме статьи, есть еще и код с туториалами.

https://github.com/majumderb/rezero
лучшая шутка дня
Forwarded from Karim Iskakov - канал (LFP bot)
torch.optim.PutinStepLR(ruble, [2008, 2014, 2020])
👤 @zagop
📉 @loss_function_porn
Это картинки, демонстрирующие процесс восстановления меша из карты глубины с айфона с помощью Poisson Surface Reconstruction