AugLy is a data augmentations library that currently supports four modalities (audio, image, text & video) and over 100 augmentations
https://github.com/facebookresearch/AugLy

Работа DS: зарплаты, занятость и желания

https://dyakonov.org/2021/06/21/ds/

#полезно
Куча ютуб-каналов по программированию и DS:
https://github.com/benthecoder/yt-channels-DS-AI-ML-CS

OpenAI Triton — новый язык программирования (ну почти), заточенный под нейросетки.

Основная мотивация: если ваш кастомный слой в нейросетке очень кастомный, вам сейчас приходится либо страдать от его низкой скорости, либо писать на CUDA (и страдать от CUDA). Причём вариант с кудой не очень классный, потому что если потом захотите портировать на iphone/android/edge/... , то будете страдать снова.

Triton это такой "Си с тайлами". Сверху языка С добавлена абстракция Tile, которая по факту — тензор. Под капотом много оптимизаций для того, чтобы всё это эффективно считалось на GPU.

Из документации видно, что сейчас язык больше продвигают как альтернативу TorchScript. То есть, вы пишете на питоне, добавляете несколько декораторов к вашим функциям и 🧙 делает ваш говнокод не лучше, но быстрее.

Проект ещё в очень ранней фазе и исходники выглядят не шибко приятно, но если он уменьшит число CUDA kernels в этом мире, я буду рад.

How to Code BERT Using PyTorch – Tutorial With Examples

https://neptune.ai/blog/how-to-code-bert-using-pytorch-tutorial

Эссе по курсу «Глубокое обучение»
https://dyakonov.org/2021/09/23/dl-esse/

Многозадачная модель T5 для русского языка

https://habr.com/ru/post/581932/

Нейросети для Natural Language Inference: логические умозаключения на русском языке

https://habr.com/ru/post/582620/

13 зимних и летних школ по data science и machine learning
https://vc.ru/education/328875-13-zimnih-i-letnih-shkol-po-data-science-i-machine-learning

14 декабря начнется конференция DataStart.
Конференции по BigData, аналитике и машинному обучению
https://datastart.ru/?utm_source=tg&utm_medium=Kantor&utm_campaign=post

dtreeviz : Decision Tree Visualization
https://github.com/parrt/dtreeviz

QMLCourse. Курс от ODS про квантовое машинное обучение
https://github.com/SemyonSinchenko/qmlcourse

подборка интересных ссылок с разъяснениями алгоритмов ML, курсов о ML и т.д.
https://assorted-streetcar-972.notion.site/076366b790d04376b00c451b678d0eb0

Восстановление знаков пунктуации и заглавных букв — теперь и на длинных текстах

https://habr.com/ru/post/594565/

Фикус - новый язык для вычислительной математики от одного из создателей OpenCV
https://github.com/vpisarev/ficus
https://habr.com/ru/post/593097/

В 19-00 будет рассказ о том, как выделять сообщества в графах на квантовых компьютерах: от постановки задачи, оценки качества разделения, метрики модулярность и классических способах поиска оптимального сечения до модели Изинга и квантовой интерпретации всего происходящего
Ссылка для входа в Spatial Chat - https://spatial.chat/s/ods?sp=Odscoursefest1

#статья
Серия бесплатных журналов по Computer Vision:
https://rsipvision.com/computer-vision-news/

Запускается курс по дата инжинерингу
Бесплатно, начало в январе
https://github.com/DataTalksClub/data-engineering-zoomcamp

Performance and Scalability: How To Fit a Bigger Model and Train It Faster

https://huggingface.co/docs/transformers/master/en/performance

Сегодня в 15-00 Huawei проведет воркшоп по NLP
Время: 14 дек. 2021 15:00 Москва
Подключиться к конференции Zoom
https://us02web.zoom.us/j/88141619755?pwd=YW9EeklablJVemt0cE91TXVtbXNRUT09
Идентификатор конференции: 881 4161 9755
Код доступа: 464257

Методы автоматического реферирования: постановка задачи и методы без учителя
https://habr.com/ru/post/595517/