Регуляризация. Чем L1 отличается от L2?
Регуляризация – метод, который используется в машинном обучении для предотвращения переобучения путем добавления штрафного значения к функции потерь, которую модель пытается минимизировать. Существует несколько методов регуляризации, но наиболее популярные — L1 и L2 регуляризация. Объясняем, в чем их смысл, на примере показываем, чем они отличаются и рассказываем, как выбрать подходящую.
😻 #train
Регуляризация – метод, который используется в машинном обучении для предотвращения переобучения путем добавления штрафного значения к функции потерь, которую модель пытается минимизировать. Существует несколько методов регуляризации, но наиболее популярные — L1 и L2 регуляризация. Объясняем, в чем их смысл, на примере показываем, чем они отличаются и рассказываем, как выбрать подходящую.
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍34❤8🤯4
The Little Book of Deep Learning by François Fleuret
Франсуа Флере — профессор компьютерных наук в Женевском университете, Швейцария. Пару дней назад он выпустил интересную мини-книжку с последовательными заметками по глубокому обучению. Здесь кратко и содержательно рассматриваются многие важные темы: Backpropagation, дропауты, нормализации, функции активации, слои внимания и тд. Откройте оглавление – и увидите сами.
При этом эта малютка подойдет даже новичкам: в начале автор раскрывает базовые понятия, и даже рассказывает про GPU и тензоры. А в третьей граве найдете заметки по основным задачам глубокого обучения: Text-image, детекция, генерация текстов и изображений, RL.
И все это изложено всего на 150 страницах с картинками. Вот бесплатная версия, адаптированная под чтение на телефоне. Советуем!
😻 #advice
Франсуа Флере — профессор компьютерных наук в Женевском университете, Швейцария. Пару дней назад он выпустил интересную мини-книжку с последовательными заметками по глубокому обучению. Здесь кратко и содержательно рассматриваются многие важные темы: Backpropagation, дропауты, нормализации, функции активации, слои внимания и тд. Откройте оглавление – и увидите сами.
При этом эта малютка подойдет даже новичкам: в начале автор раскрывает базовые понятия, и даже рассказывает про GPU и тензоры. А в третьей граве найдете заметки по основным задачам глубокого обучения: Text-image, детекция, генерация текстов и изображений, RL.
И все это изложено всего на 150 страницах с картинками. Вот бесплатная версия, адаптированная под чтение на телефоне. Советуем!
Please open Telegram to view this post
VIEW IN TELEGRAM
👍23🤯14❤5🔥4
Подборка книг для знакомства с эффективными методами аналитики, датавиза и репрезентации данных
Что-нибудь из списка уже читали? Как вам?
😻 #advice
Что-нибудь из списка уже читали? Как вам?
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍44🥰7❤5🤨1
BERT4Rec
Рекомендательные системы в основном работают, основываясь на истории пользователя. Такие рекомендации называют последовательными. До 2019 года почти все такие системы под капотом работали на рекуррентных нейронных сетях, и в них была проблема: они предполагали, что действия пользователя строго упорядочены, а это не всегда практично. В 2019 году исследователи из Alibaba Group обратили на этот недочет внимание, предложили BERT4Rec и побили все остальные модели. Что же там за архитектура такая?
Статья | Код
😻 #NN
Рекомендательные системы в основном работают, основываясь на истории пользователя. Такие рекомендации называют последовательными. До 2019 года почти все такие системы под капотом работали на рекуррентных нейронных сетях, и в них была проблема: они предполагали, что действия пользователя строго упорядочены, а это не всегда практично. В 2019 году исследователи из Alibaba Group обратили на этот недочет внимание, предложили BERT4Rec и побили все остальные модели. Что же там за архитектура такая?
Статья | Код
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍35🔥7❤4
Китайская ByteDance, владелец TikTok, представила приложение Ripple для создания и редактирования музыки с помощью ИИ
В приложении достаточно напеть мелодию в микрофон телефона, и затем алгоритм генерирует инструментальные партии. Продолжительность песни будет соответствовать длине входной голосовой записи. Вокал пока генерировать нельзя. Приложение заработало только в США, и компания тестирует его в закрытой бета-среде.
Деталей реализации не раскрывают, только говорят, что обучали модель на мелодиях, права на которые имеет сама ByteDance, а также на музыке, лицензированной для использования компанией. Предположительно, под капотом зашита Stable Diffusion для генерации музыки с проекта Riffusion.
😻 #news
В приложении достаточно напеть мелодию в микрофон телефона, и затем алгоритм генерирует инструментальные партии. Продолжительность песни будет соответствовать длине входной голосовой записи. Вокал пока генерировать нельзя. Приложение заработало только в США, и компания тестирует его в закрытой бета-среде.
Деталей реализации не раскрывают, только говорят, что обучали модель на мелодиях, права на которые имеет сама ByteDance, а также на музыке, лицензированной для использования компанией. Предположительно, под капотом зашита Stable Diffusion для генерации музыки с проекта Riffusion.
Please open Telegram to view this post
VIEW IN TELEGRAM
🤯19👍7🌭1
Про всякие транформаторы в Sklearn
Поговорили про то, как элегантно обернуть в pipeline любую пользовательскую функцию, как подправить встроенный транформатор, зацепили мега-полезные QuantileTransformer и TransformedTargetRegressor, а на сладкое рассказали про то, как в одну строку визуализировать конвейер.
😻 #python
Поговорили про то, как элегантно обернуть в pipeline любую пользовательскую функцию, как подправить встроенный транформатор, зацепили мега-полезные QuantileTransformer и TransformedTargetRegressor, а на сладкое рассказали про то, как в одну строку визуализировать конвейер.
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍41🔥7❤2
Где пообщаться с датасаентистами? В нашем чате, конечно
Здесь можно обмениваться мемами, обсуждать проекты, учебу, новости индустрии и вообще все что угодно! Кстати, если хотите пообщаться с нашими авторами – вам тоже сюда.
😻 Вот ссылка на чат, присоединяйтесь!
Здесь можно обмениваться мемами, обсуждать проекты, учебу, новости индустрии и вообще все что угодно! Кстати, если хотите пообщаться с нашими авторами – вам тоже сюда.
Please open Telegram to view this post
VIEW IN TELEGRAM
👍19🤯3🤔2❤1