SUMMER SCHOOL ON
Deep Learning AND
Bayesian Methods

http://deepbayes.ru/

NLP newsletter #6

https://medium.com/dair-ai/nlp-newsletter-bertology-primer-fastpages-t5-data-science-education-pytorch-notebooks-slow-8ae5d499e040

More Efficient NLP Model Pre-training with ELECTRA
https://ai.googleblog.com/2020/03/more-efficient-nlp-model-pre-training.html

Zoom In: An Introduction to Circuits
https://distill.pub/2020/circuits/zoom-in/

StyleGAN2 Distillation for Feed-forward Image Manipulation

https://github.com/EvgenyKashin/stylegan2-distillation

19 марта в 11.00 по московскому времени мы в NVIDIA проведем вебинар на русском языке, посвященный контейнерам NVIDIA GPU Cloud (NGC).
В рамках вебинара мы расскажем и продемонстрируем best practices по настройке окружения для deep learning - как для обучения, так и для инференса нейросетей. Вы узнаете, какие задачи решает NGC, как docker влияет на производительность и насколько можно увеличить производительность только за счёт софтверных оптимизаций. Мы также на практике измерим производительность GPU на одной из DL задач и сравним с ожидаемой.
Спикер - Дмитрий Миронов, NVIDIA Solutions Architect AI for Russia & CIS
Для участия в вебинаре, пожалуйста, зарегистрируйтесь: https://vk.cc/arbYsg

Introducing BART
https://sshleifer.github.io/blog_v2/jupyter/2020/03/12/bart.html

NLP newsletter
https://dair.ai/NLP_Newsletter_NLP_7/

Рубрика «Читаем статьи за вас». Январь — Февраль 2020
https://habr.com/ru/company/ods/blog/493016/

Awesome NLP Paper Discussions

https://github.com/huggingface/awesome-papers

Google зарелизила новую версию диалогового датасета - Taskmaster-2.
17к диалогов, 7 доменов

BERT-related Papers
https://github.com/tomohideshibata/BERT-related-papers

The easiest way to use deep metric learning in your application. Modular, flexible, and extensible. Written in PyTorch.
https://github.com/KevinMusgrave/pytorch-metric-learning

Лекция Михаила Бурцева про языковые модели
https://www.youtube.com/watch?v=tsaKVOjnMRU&feature=youtu.be

Открыт набор в новую группу профессионального онлайн-курса «Нейронные сети на Python».

Знакомьтесь с полностью обновленной программой, сдавайте вступительное тестирование и начните обучение на выгодных условиях https://otus.pw/qJFS/

За 5 месяцев вы:

- Научитесь работать с нейронными сетями с использованием фреймворков PyTorch, Tensorflow, Keras;
- Изучите теорию и практику по таким важным направлениям Deep Learning как Computer Vision, NLP, обучение с подкреплением и многое другое.

Делиться своей экспертизой с вами будут преподаватели, профессионалы своего дела и разработчики-практики:

Приходите за подробностями, сдавайте вступительный тест и присоединяйтесь к курсу со скидкой 20%: https://otus.pw/qJFS/

BERT Word Embeddings Tutorial
https://mccormickml.com/2019/05/14/BERT-word-embeddings-tutorial/

Аватары для скайпа и зума
https://github.com/alievk/avatarify

На coursera появилась специализация AI for Medicine
https://www.coursera.org/specializations/ai-for-medicine

DeepPavlov release
https://twitter.com/MikhailBurtsev/status/1252270569610973185?

Tokenizers: How machines read
https://blog.floydhub.com/tokenization-nlp/amp/?__twitter_impression=true