New NLP News: Bigger vs. smaller models, powerful vs. dumb models from Sebastian Ruder
http://newsletter.ruder.io/issues/bigger-vs-smaller-models-powerful-vs-dumb-models-190768
http://newsletter.ruder.io/issues/bigger-vs-smaller-models-powerful-vs-dumb-models-190768
newsletter.ruder.io
Bigger vs. smaller models, powerful vs. dumb models
Hi all,The theme of this newsletter are juxtapositions: training ever bigger models (GPT-8 8B) vs. making models smaller (via distillation or compression); powerful models (see Tools ⚒) vs. dumb models à la Clever Hans, i.e. that only appear to be able to…
OpenGPT-2: We Replicated GPT-2 Because You Can Too
https://medium.com/@vanya_cohen/opengpt-2-we-replicated-gpt-2-because-you-can-too-45e34e6d36dc
https://medium.com/@vanya_cohen/opengpt-2-we-replicated-gpt-2-because-you-can-too-45e34e6d36dc
Medium
OpenGPT-2: We Replicated GPT-2 Because You Can Too
By Aaron Gokaslan* and Vanya Cohen*
TRANSFORMERS FROM SCRATCH
http://www.peterbloem.nl/blog/transformers
http://www.peterbloem.nl/blog/transformers
Визуализация больших графов для самых маленьких
https://habr.com/ru/company/ods/blog/464715/
https://habr.com/ru/company/ods/blog/464715/
Хабр
Визуализация больших графов для самых маленьких
Что делать, если вам нужно нарисовать граф, но попавшиеся под руку инструменты рисуют какой-то комок волос или вовсе пожирают всю оперативную память и вешают систему? За последние пару лет работы с...
Training a custom dlib shape predictor
https://www.pyimagesearch.com/2019/12/16/training-a-custom-dlib-shape-predictor/
https://www.pyimagesearch.com/2019/12/16/training-a-custom-dlib-shape-predictor/
PyImageSearch
Training a custom dlib shape predictor - PyImageSearch
In this tutorial, you will learn how to train your own custom dlib shape predictor. You'll then learn how to take your trained dlib shape predictor and use it to predict landmarks on input images and real-time video streams.
Новости машинного обучения. Выпуск 6
https://habr.com/ru/news/t/483100/
https://habr.com/ru/news/t/483100/
Хабр
Новости машинного обучения. Выпуск 6
Предыдущий выпуск Новости ML, новые технологии, идеи по применению и гипотезы. Lattice Light-Sheet Microscopy (решетчатая светолистовая микроскопия). Наступает новая эра в микробиологии клетки....
Как сделать бота, который превращает фото в комикс. Часть вторая. Обучение модели
https://habr.com/ru/post/483168/
https://habr.com/ru/post/483168/
Хабр
Как сделать бота, который превращает фото в комикс. Часть вторая. Обучение модели
⇨ Первая часть ⇨ Третья часть И снова здравствуйте! Как вы могли заметить, праздники несколько подкосили график выхода статей. Думаю, многие за это время усп...
Эксперименты с нейронными сетями на данных сейсморазведки
https://habr.com/ru/company/ods/blog/482780/
https://habr.com/ru/company/ods/blog/482780/
Хабр
Эксперименты с нейронными сетями на данных сейсморазведки
Сложность интерпретации данных сейсмической разведки связана с тем, что к каждой задаче необходимо искать индивидуальный подход, поскольку каждый набор таких данных уникален. Ручная обработка требует...
Визуализация границ решения классификатора на основе изображений
https://habr.com/ru/post/483608/
https://habr.com/ru/post/483608/
Хабр
Визуализация границ решения классификатора на основе изображений
Введение Понимание того, как классификатор разбивает исходное многомерное пространство признаков на множество целевых классов, является важным шагом для анализа любой задачи классификации и оценки...
Обратный поиск изображений: руководство от детективного агентства Bellingcat
https://habr.com/ru/company/globalsign/blog/483736/
https://habr.com/ru/company/globalsign/blog/483736/
Хабр
Обратный поиск изображений: руководство от детективного агентства Bellingcat
Кадр одного из онлайновых расследований Bellingcat Международное агентство Bellingcat опубликовало несколько советов по идентификации людей и географических локаций на фотографиях с помощью функции...
Основы deep learning на примере дебага автоэнкодера, часть №1
https://habr.com/ru/post/484016/
https://habr.com/ru/post/484016/
Хабр
Основы deep learning на примере дебага автоэнкодера, часть №1
Если почитать обучение по автоэнкодерам на сайте keras.io, то один из первых посылов там звучит примерно так: на практике автоэнкодеры почти никогда не использую...
Fast State-of-the-Art Tokenizers optimized for Research and Production
https://github.com/huggingface/tokenizers
https://github.com/huggingface/tokenizers
GitHub
GitHub - huggingface/tokenizers: 💥 Fast State-of-the-Art Tokenizers optimized for Research and Production
💥 Fast State-of-the-Art Tokenizers optimized for Research and Production - huggingface/tokenizers
Visualizing the Impact of Feature Attribution Baselines
https://distill.pub/2020/attribution-baselines/
https://distill.pub/2020/attribution-baselines/
Distill
Visualizing the Impact of Feature Attribution Baselines
Exploring the baseline input hyperparameter, and how it impacts interpretations of neural network behavior.
Проект Lacmus: как компьютерное зрение помогает спасать потерявшихся людей
https://habr.com/ru/company/ods/blog/483616/
https://habr.com/ru/company/ods/blog/483616/
Хабр
Проект Lacmus: как компьютерное зрение помогает спасать потерявшихся людей
Всем привет! Возможно, вы уже знаете про инициативу Machine Learning for Social Good (#ml4sg) сообщества Open Data Science. В её рамках энтузиасты на бесплатной основе применяют методы машинного...