Илья Суцкевер, ко-фаундер и главный сайeнтист в OpenAI дал новое интервью

Интересный человек интересно говорит об AGI, трансформерах и LSTM, scaling lows, GPT и о том, зачем Сэм Алтьман решил подружиться с правительством. Советуем!

Смотреть тут

😻 #advice

Любой из нас хотя бы раз в жизни be like:

😻 #memes

Meta* представила AudioCraft — ИИ-инструмент для создания музыки и звуков по текстовому описанию

AudioCraft с открытым исходным кодом состоит из трёх моделей:

• MusicGen предназначена для создания мелодий по текстовому описанию и обучена на 20 тысячах часов музыки
• AudioGen генерирует звуки и эффекты окружающей среды с помощью текстовых подсказок — например, лай собаки или шаги
• EnCodec – декодер, обеспечивает обработку токенов звука

📖 Блогпост 🖥 Код и веса 🐗 Демо

😻 #news

Задача про ипотеку

У нас уже стало традицией воскресное решение задач! В этот раз задачка совсем простая, нужно вспомнить всего одну теорему...

В общем, все, как всегда: разбор завтра, ваши решения ждем в комментариях.

😻 #задачи

Ошибка выжившего – это что?

Когда-то во время Второй Мировой математик Абрахам Вальд столкнулся с задачей: нужно было решить, в каких местах укреплять бронь бомбардировщиков. У возвратившихся на базу самолётов пробоины были в основном на крыльях и хвосте, и коллеги Вальда утверждали, что укреплять нужно именно там. Но Вальд рассудил, что укреплять нужно кабину и топливный бак, ведь, как оказалось, бомбардировщики с попавшими туда снарядами не возвращаются.

Это и есть ошибка выжившего – искать общие черты среди «выживших», не уделяя должного внимания информации о «погибших». Именно поэтому человеку который хочет «добиться успеха» статистически выгоднее обращать внимание не на истории успеха, а на историю ошибок 🐺

В машинном обучении классический пример ошибки выжившего – это неправильная работа с несбалансированными классами. Например, мы прогнозируем наличие редкой болезни, и в наших данных 98% здоровых людей, а 2% больных. При неправильной работе с такой выборкой модель просто всегда начнет предсказывать «не болен», и исследование абсолютно потеряет смысл. А чтобы избежать такой ошибки выжившего, выбирайте правильные метрики и балансируйте данные.

А вы встречались с ошибкой выжившего на практике?

😻 #train