Нейронные сети работают, конечно, лучше иных методов машинного обучения, но никто не знает, почему (у нас даже была пара вебинаров на эту тему).
Да и как они работают, тоже непонятно, в том смысле, что работа нейронных сетей неинтерпретируема.
Однако в некоторых случаях можно добиться сравнимых результатов с помощью иных классов моделей.

Об одном таком классе графовых моделей и соответствующей исследовательской программе расскажет Антон Колонин на нашем вебинаре завтра.

Когда: 22 марта, 18:00МСК.
Спикер: Антон Колонин, Aigents и НГУ, Россия.
Тема: Интерпретируемая обработка текстов на естественном языке

➡Регистрация

Всем привет!

Модели редактирования текста стали в последнее время заметной альтернативой моделям seq2seq для таких задач генерации текста как исправление грамматических ошибок, упрощение текста, и перенос стиля.

Эти задачи объединяет одно свойство — большое пересечение между оригинальным и желаемым текстом. Модели редактирования используют эту особенность, и учатся генерировать желаемый текст предсказывая операции редактирования применительно к оригинальному тексту. Такие модели имеют ряд преимуществ перед моделями seq2seq, включая более высокую скорость предсказания, более эффективное обучения на данных небольшого размера, и лучший контроль и интерпретируемость выходного текста.

Завтра Александр Чуклин из Google на вебинаре проведет обзор моделей редактирования текста и современных подходов, а также проанализирует их плюсы и минусы.

Когда: 29 марта, 15:00МСК.
Спикер: Александр Чуклин, Google, Цюрих, Швейцария.
Тема: Генерация текста при помощи моделей редактирования.

Примечания:
1) Язык мероприятия: английский;
2) Презентация опубликована не будет.

➡Регистрация

Запись вебинара Александра Чуклина из Google про генерацию текста при помощи моделей редактирования уже доступна на нашем YouTube-канале

Также Александр оставил ссылки на материалы, которые упомянул во время выступления. Найти можно на сайте вебинара

За последние два года диффузионные модели задали новую планку качества в генеративном моделировании. Эта красивая концепция объединяет в себе нейродиффуры, моделирование на основе скор-функции, приближенные методы байесовского вывода и стохастические дифференциальные уравнения. Их основным недостатком является большое время генерации объекта.

В рамках вебинара Дмитрий Ветров из ВШЭ рассмотрит причины успеха диффузионных моделей и пути повышения их эффективности за счет уменьшения работы вхолостую на начальном этапе обратной динамики. Получившаяся модель обобщает стандартные диффузионные модели и иерархические вариационные автокодировщики в рамках более общей парадигмы.

Когда: Завтра в 16:00 МСК
Спикер: Дмитрий Ветров, НИУ ВШЭ, Москва, Россия
Тема: Диффузионные модели с динамически меняющимся размером
Где: Zoom. Ссылка на регистрацию: https://ntrlab.zoom.us/webinar/register/2016215990886/WN_eu8BrWWGRDmX9yQnOeYhmg

Вебинар Дмитрия Ветрова из ВШЭ про диффузионные модели с динамически меняющимся размером начнется через 10 минут! https://ntrlab.zoom.us/webinar/register/2016215990886/WN_eu8BrWWGRDmX9yQnOeYhmg

Данных для обучения нейросетей не хватает почти всем. Вот, казалось бы, речь с ненавистью (hate speech) - ee в интернете пруд пруди. Но нет, не хватает. Коллеги из INRIA расскажут о своих подходах к аугментации тестовых данных hate speech. В конце концов, аугментация текстовых данных - это всегда интересно.

Когда: Завтра 14:00 MCK
Спикеры: Ashwin Geet D'Sa, Irina Illina and Dominique Fohr
Компания: LORIA, INRIA, CNRS, Université de Lorraine, Nancy, France
Тема: Расширение обучающих данных для классификации речи с ненавистью (hate speech ) на основе нейронной сети.
Регистрация
Примечание: Вебинар будет на английском.

Всем привет, мы просим вашей помощи!

В последнее время частоту вебинаров пришлось сократить из-за сложностей в поиске спикеров. Мы надеемся, что это временные трудности.

За 2 года нашего проекта мы собрали лояльное русскоязычное онлайн-коммьюнити из разных уголков земли и хотим расширяться и дальше.

Будем рады, если Вы поможете нам найти новых спикеров. А может Вы и сами можете рассказать что-то интересное в рамках нашего вебинара? :)

Для начала коммуникации можно написать здесь, мне в личные сообщения (@heabyfik) или написать на почту rrafikova@ntr.ai

Всем хорошего дня!

Все современное машинное обучение держится на нескольких пакетах с открытым исходным кодом, в первую очередь - TensorFlow и PyTorch.

На очередном научно-техническом вебинаре НТР&HITs Эмиль Богомолов из Youpi расскажет о разработке инструментов машинного обучения в open source:
* Зачем участвовать в разработке
* PyTorch как проект, из каких модулей он состоит
* Как issues создаются и решаются в проекте
* Как выбрать задачу в проекте для себя, создавать и сопровождать pull реквесты
и многое другое

Когда: сегодня 3 мая, 18:00 MCK
Спикер: Эмиль Богомолов, Youpi, Маунтин-Вью, США
Тема: Разработка инструментов машинного обучения в open source. Кому это может быть нужно и как начать?
Регистрация:
https://ntrlab.zoom.us/webinar/register/2016215990886/WN_sL0XO2ZlQS69N0eOfxgRBQ

Запись вебинара Эмиля Богомолова: https://youtu.be/K8bQedt61HI

➡️Опубликована видеозапись вебинара о расширении обучающих данных для классификации речи с ненавистью (hate speech) на основе нейронной сети.

Всем привет!

Мы решили немного поделиться нашей внутренней “кухней”.

Помимо научно-технических вебинаров мы еще проводим внутренние вебинары НТР.

Это встречи среди коллег, где любой сотрудник может делиться своим опытом, экспертизой и знаниями.

Мы начали проводить эти вебинары 6 лет назад. И решили возобновить их в этом году, а также публиковать видеозаписи, в которых нет запрещенной NDA информации в общий доступ.

Найти видеозаписи Внутренних Вебинаров НТР Вы можете на том же YouTube-канале, что и Научно-Технические Вебинары НТР&HITs. Для удобства мы их выделили в отдельный плейлист.

Вам, как участникам этого чата, могут быть интересны следующие видео:
1. Применение MLP в CV, революция?
2. Форма и содержание в ML
3. Обзор GeoFill: Reference-Based Image Inpainting of Scenes with Complex Geometry
4. Селекция моделей и структура ошибок

Мы бы хотели получить фидбек о нужности таких публикаций с внутренними вебинарами. Пройдите, пожалуйста, опрос.

Self-supervised learning (самообучение) - основа машинного обучения во многих областях. Вычислительную лингвистику невозможно представить без языковых моделей. В изображениях, видео и распознавании речи обучение представлений на неразмеченных данных - тоже привлекательная опция, потому что неразмеченных данных обычно больше, чем размеченных, и они более полно описывают мир.

Алексей Зайцев из Сколтеха расскажет на очередном нашем вебинаре о том, как можно описать основные подходы в этой области и для каких еще модальностей можно и нужно применять самообучение.

Когда: 17 мая, 16:00 MCK
Спикер: Алексей Зайцев, Сколтех, Москва, Россия
Тема: Самообучение для последовательных данных
👉Регистрация

Видеозапись вебинара про самообучение для последовательных данных: https://youtu.be/ueGOCobdLVg

Текстовый вариант вебинара Михаила Белкина «Чему учит глубокое обучение?».

Google-документ или PDF

Приятного чтения:)

Существует множество подходов, которые используют GANы и вариационные автоэнкодеры для генерации гридов месторождений, но они используют "конвенциональные" свертки, поэтому данные имеют обычную (прямоугольную) форму. На очередном научно-техническом вебинаре НТР&HITs ТГУ Роман Выгон опишет новый подход к использованию вариационных автоэнкодеров с графовыми свёртками. Такой подход позволяет эффективно работать с трех- и, потенциально, многомерными областями сложной формы.

Когда: 31 мая 2022, 12:00 MCK (16:00 по Томску)
Спикер: Роман Выгон, НТР, Россия
Тема: Использование графовых свёрток и генеративного глубокого обучения для адаптации геологических моделей
➡️Сайт
➡️Регистрация

Вебинар начнется через 10 минут!

Спикер: Роман Выгон, НТР, Россия
Тема: Использование графовых свёрток и генеративного глубокого обучения для адаптации геологических моделей
➡️Регистрация

Всем привет!

Вчера Влад Большаков из НТР выступил на внутренней встрече компании с темой "Введение в обучение с подкреплением".

Делимся с вами ссылочкой на видео:)

Публикуем расшифровку вебинара Алексея Тихонова "Текст: стиль+контент+структура".

Google-документ и PDF.

Всем привет!

Несмотря на то, что текстовые данные обычно представляются в виде последовательности токенов, существует множество задач вычислительной лингвистики, которые проще всего представить на основе графов. Сегодня Денис Кузнецов из DeepPavlov на научно-техническом вебинаре НТР&HITs расскажет о своих исследованиях, которые показывают, что использование графовых нейронных сетей (GNN) дает выигрыш в качестве на задачах ведения диалога. . В докладе будет проведен обзор GNN, моделей глубокого обучения для задачи Response Prediction, улучшение метрик задачи Response Prediction с использованием GNN

Когда: 14 июня 2022, 18:00 MCK (22:00 по Томску)
Спикер: Денис Кузнецов, Лаборатория нейронных систем и глубокого обучения DeepPavlov, Москва, Россия
Тема: Применение моделей глубокого обучения с графами для задач ведения диалога
Сайт
Регистрация