Вот вам полезность: GitHub с огромным количеством туториалов по ML на Python. Присутствуют все топ-темы, от АБ-тестов до rl. Код хорошо закомментирован и объяснен. Вот примеры того, что можно найти в репозитории:
🟩 Многорукие бандиты – Introduction
🟩 Алгоритм токенизации Byte Pair Encoding (BPE) from scratch
🟩 ALS-WR from scratch + из библиотек
🟩 RNN в pyTorch, Keras и TensorFlow
🟩 И еще тысячи ноутбуков с кодом
Осторожно – можно залипнуть на все выходные
Осторожно – можно залипнуть на все выходные
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥81👍19❤12
This media is not supported in your browser
VIEW IN TELEGRAM
– Первая из новых технологий – SARA-RT – позволяет ускорять развертывание трансформерной модели (именно трансформеры лежат в основе SOTA-модели RT-2) на роботе без потери качества. Это происходит за счет нового метода обучения “up-training”.
– Модель RT-Trajectory позволяет роботу стать более точным в движениях. Она как бы «дорисовывает» движения робота или траектории к обучающим видео из датасета, принимая на вход видео с человеческими движениями или даже картинки и схемы.
– И, наконец, AutoRT. Эта разработка помогает создать систему, способную понимать намерения и цели человека и масштабировать ее на нескольких роботов. Тут как раз рулит LLM, которая описывает задачу, строит пошаговый пайплайн для робота и прогоняет его через пул правил безопасности. Все это с минимальный человеческим вмешательством.
2024 – год роботов?
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥44👍12👾9❤3🦄2🤯1
Please open Telegram to view this post
VIEW IN TELEGRAM
👍76😐16❤14🔥10😁1
Список статей с основной теорией современного Deep Learning:
– Трансформеры: Attention is All You Need
– BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding, A Robustly Optimized BERT Pretraining Approach
– GPT: Language Models are Few-Shot Learners
– CNN: ImageNet Classification with Deep Convolutional Neural Networks
– AlphaFold2: Highly accurate protein structure with AlphaFold
– NeRF: Representing Scenes as Neural Radiance Fields for View Synthesis
– GAN: Generative Adversarial Nets
– GAT: Graph Attention Networks
– Оптимизация: BatchNorm, ReLU, Dropout, Adam, LoRA
– Эмбеддинги: Word2Vec
– Трансформеры: Attention is All You Need
– BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding, A Robustly Optimized BERT Pretraining Approach
– GPT: Language Models are Few-Shot Learners
– CNN: ImageNet Classification with Deep Convolutional Neural Networks
– AlphaFold2: Highly accurate protein structure with AlphaFold
– NeRF: Representing Scenes as Neural Radiance Fields for View Synthesis
– GAN: Generative Adversarial Nets
– GAT: Graph Attention Networks
– Оптимизация: BatchNorm, ReLU, Dropout, Adam, LoRA
– Эмбеддинги: Word2Vec
👍42🔥14✍11❤2⚡2
А вы знали, что Франция – одна из стран с самой выдающейся академической и бизнес-экосистемой ML? Вот несколько фактов, о которых вы, возможно, не знали:
– Главный офис HuggingFace расположен во Франции
– sklearn поддерживается французским университетом Inria
– Создатели Llama 2 и CodeLlama из Франции
– Там расположены крупнейшие исследовательские центры Google DeepMind, Meta, kyutai, MistralAI и других
– OVHcloud и Scaleway – это французские компании
– Крупнейший стартап-кампус Station F расположен в Париже
– PhotoRoom, Mithril Security, Giscard, ChainLid, Zama – все это французские стартапы
– Там множество сильных CS университетов, известных своими выпускниками
Ну что, собираем вещи и attends-moi France?
– Главный офис HuggingFace расположен во Франции
– sklearn поддерживается французским университетом Inria
– Создатели Llama 2 и CodeLlama из Франции
– Там расположены крупнейшие исследовательские центры Google DeepMind, Meta, kyutai, MistralAI и других
– OVHcloud и Scaleway – это французские компании
– Крупнейший стартап-кампус Station F расположен в Париже
– PhotoRoom, Mithril Security, Giscard, ChainLid, Zama – все это французские стартапы
– Там множество сильных CS университетов, известных своими выпускниками
Ну что, собираем вещи и attends-moi France?
❤70👍26🔥12🤨3🍌2🍓2👻2👀2👌1
Media is too big
VIEW IN TELEGRAM
У NVIDIA снова новые видеокарты
Компания анонсировала обновление серии RTX 40 – теперь у них будет приставка Super: GeForce RTX 4070 Super, RTX 4070 Ti Super и RTX 4080 Super. Улучшена производительность для игр и генеративного ИИ. Круче всего – RTX 4080 Super – эта видюха оснащена 10240 CUDA-ядер с 16 ГБ памяти. Она поступит в продажу 31 января и будет стоит $999.
Видимо, серия для тех, кто все-таки жалеет 1.6к бачей на RTX 4090, но хочет простого человеческого GPU
Компания анонсировала обновление серии RTX 40 – теперь у них будет приставка Super: GeForce RTX 4070 Super, RTX 4070 Ti Super и RTX 4080 Super. Улучшена производительность для игр и генеративного ИИ. Круче всего – RTX 4080 Super – эта видюха оснащена 10240 CUDA-ядер с 16 ГБ памяти. Она поступит в продажу 31 января и будет стоит $999.
Видимо, серия для тех, кто все-таки жалеет 1.6к бачей на RTX 4090, но хочет простого человеческого GPU
👍33🔥7🤯3❤2
Please open Telegram to view this post
VIEW IN TELEGRAM
👍31🔥13👨💻3❤1
А вы когда-нибудь задумывались, как оценить качество LLM? Тут уже всякие MAE и Accuracy не подойдут – нужно что-то похитрее. Рассказываем о самых важных метриках, которые используются для оценки таких моделей.
👍45🔥10❤6
This media is not supported in your browser
VIEW IN TELEGRAM
Я каждый раз, когда мне удается понять математическую формулу в статье:
😁217👍18🔥16😎7⚡4❤4🤯1😨1
iPhone? – прошлый век. Встречайте: AiPhone!
Такое изобретение показали на выставке CES 2024. В его основе – Rabbit OS на голосовом управлении, которая сама рулит всеми программами: может заказать еду, вызвать такси и еще много всего. Что-то вроде супер-умной карманной голосовой станции, в общем. Поступит в продажу в марте и стоить будет 200 долларов.
ПК замена пока не грозит, но и тут не обойдется без изменений: сегодня выяснилось, что даже в родном виндоусовском блокноте появится ИИ-ассистент. А Steam тем временем обновляет свои правила, чтобы публиковать больше игр, разработанных с помощью AI.
2024, ты куда, мы не успеваем
Такое изобретение показали на выставке CES 2024. В его основе – Rabbit OS на голосовом управлении, которая сама рулит всеми программами: может заказать еду, вызвать такси и еще много всего. Что-то вроде супер-умной карманной голосовой станции, в общем. Поступит в продажу в марте и стоить будет 200 долларов.
ПК замена пока не грозит, но и тут не обойдется без изменений: сегодня выяснилось, что даже в родном виндоусовском блокноте появится ИИ-ассистент. А Steam тем временем обновляет свои правила, чтобы публиковать больше игр, разработанных с помощью AI.
2024, ты куда, мы не успеваем
👍43🔥8❤7
This media is not supported in your browser
VIEW IN TELEGRAM
Первое и главное: буквально сейчас завезли GPTStore. Теперь юзеры с подпиской могут делиться своими ассистентами с остальными, и даже получать за это кэш.
Кроме того, добавили долгожданную фишку с долбучением бота под пользователя. Теперь ChatGPT будет запоминать ваши планы, интересы, занятия, и использовать это в ответах. Режим инкогнито тоже на месте.
Ну а еще ввели новый Team тариф для команд и общую память между чатами.
Please open Telegram to view this post
VIEW IN TELEGRAM
👍34😁7🔥5❤1
Что делать, если нет GPU, но очень хочется
Знаем, взять и отдать месячную зарплату на видюху – тяжело... Хорошая новость: можно получить GPU для обучения моделек и бесплатно. Вот ресурсы:
– Конечно же, Google Colab. Недавно они выкатили AI фишки на основе AlphaCode2 даже для бесплатных пользователей. Правда, чтобы потреблять ресурсы сполна, все-таки нужно будет купить подписку.
– Kaggle. Ресурсы, конечно, ограничены, но для большинства задач хватит. Кстати, как раз сегодня у них вышел апдейт – интеграция с Keras.
– Deepnote. По сути, это Jupyter, да еще и с ИИ-помощником, да еще и с GPU, да еще и с поддержкой SQL-запросов. Еще есть приятная встроенная zero-code визуализация таблиц или датафреймов. Советуем!
– А еще: AWS SageMaker, GCP Notebooks, Azure Notebooks
Пользуйтесь, но не забывайте: никогда не оставляйте ноутбук надолго, пока модель обучается...
Знаем, взять и отдать месячную зарплату на видюху – тяжело... Хорошая новость: можно получить GPU для обучения моделек и бесплатно. Вот ресурсы:
– Конечно же, Google Colab. Недавно они выкатили AI фишки на основе AlphaCode2 даже для бесплатных пользователей. Правда, чтобы потреблять ресурсы сполна, все-таки нужно будет купить подписку.
– Kaggle. Ресурсы, конечно, ограничены, но для большинства задач хватит. Кстати, как раз сегодня у них вышел апдейт – интеграция с Keras.
– Deepnote. По сути, это Jupyter, да еще и с ИИ-помощником, да еще и с GPU, да еще и с поддержкой SQL-запросов. Еще есть приятная встроенная zero-code визуализация таблиц или датафреймов. Советуем!
– А еще: AWS SageMaker, GCP Notebooks, Azure Notebooks
Пользуйтесь, но не забывайте: никогда не оставляйте ноутбук надолго, пока модель обучается...
❤48👍14❤🔥10🔥5☃1⚡1
Forwarded from XOR
@xor_journal
Please open Telegram to view this post
VIEW IN TELEGRAM
🫡113😨83❤55🗿31🍾23😐21🌭14🤨11😁9👍7🥰7
Что почитать на выходных: новый ликбез-дайджест от DeepLearningAI. Внутри, кроме похвал Эндрю Ына новой статье от Стэнфорда:
– Верхнеуровневый разбор нейросети, которая изобрела новый антибиотик. Как это работает? Что значит для мира?
– Safety Protocol OpenAI. Интересные гипотезы, связанные исследования + экспертное мнение.
– Про AGI. Самая интересная часть! Возможно ли достичь AGI? Какими путями? А что будет после?
Читается на одном дыхании. Рекомендуем!
– Верхнеуровневый разбор нейросети, которая изобрела новый антибиотик. Как это работает? Что значит для мира?
– Safety Protocol OpenAI. Интересные гипотезы, связанные исследования + экспертное мнение.
– Про AGI. Самая интересная часть! Возможно ли достичь AGI? Какими путями? А что будет после?
Читается на одном дыхании. Рекомендуем!
👍22❤6🔥4