This media is not supported in your browser
VIEW IN TELEGRAM
Hugging Face собрали 400 000 бесплатных AI-моделей в одном месте 🔥
Spaces — это как App Store для нейросетей. Захотел протестить модель для генерации кода, OCR или video synthesis? Открываешь браузер, выбираешь приложение и сразу пробуешь.
Никаких pip install, CUDA setup или "works on my machine". Всё работает в облаке, ничего качать не нужно.
Особенно удобно:
• Сравнить несколько моделей для одной задачи
• Показать заказчику прототип без деплоя
• Найти готовое решение вместо написания с нуля
Большинство Space'ов с открытым кодом — можно форкнуть и допилить под себя.
@ai_for_dev
Spaces — это как App Store для нейросетей. Захотел протестить модель для генерации кода, OCR или video synthesis? Открываешь браузер, выбираешь приложение и сразу пробуешь.
Никаких pip install, CUDA setup или "works on my machine". Всё работает в облаке, ничего качать не нужно.
Особенно удобно:
• Сравнить несколько моделей для одной задачи
• Показать заказчику прототип без деплоя
• Найти готовое решение вместо написания с нуля
Большинство Space'ов с открытым кодом — можно форкнуть и допилить под себя.
@ai_for_dev
🤮1
Лайфхак от Google: дублируй промпт — получи +67% к качеству
Исследователи Google нашли странный, но работающий трюк: отправь промпт дважды подряд
Проверили на Gemini, GPT, Claude, DeepSeek — работает везде.
Почему так получилось?
LLM читают слева направо, и токены в начале промпта не видят, что будет дальше. Когда ты повторяешь промпт, модель "дочитывает" контекст дважды и начинает лучше понимать задачу.
Где НЕ работает:
Reasoning-модели (o1, o3) и так внутри себя "переспрашивают" — им дубль не нужен.
Где пригодится:
Классификация, парсинг данных, кодген по ТЗ. Если модель отвечает поверхностно — просто скопируй промпт в начало.
📄 Полная статья
@ai_for_dev
Исследователи Google нашли странный, но работающий трюк: отправь промпт дважды подряд
<prompt><prompt> — и в 67% случаев ответ будет лучше. Без лишних токенов, без задержек.Проверили на Gemini, GPT, Claude, DeepSeek — работает везде.
Почему так получилось?
LLM читают слева направо, и токены в начале промпта не видят, что будет дальше. Когда ты повторяешь промпт, модель "дочитывает" контекст дважды и начинает лучше понимать задачу.
Где НЕ работает:
Reasoning-модели (o1, o3) и так внутри себя "переспрашивают" — им дубль не нужен.
Где пригодится:
Классификация, парсинг данных, кодген по ТЗ. Если модель отвечает поверхностно — просто скопируй промпт в начало.
📄 Полная статья
@ai_for_dev
🙏1
GPT-5.2 в Copilot — новый уровень для разработчиков
Microsoft обновила Copilot, добавив туда свеженькую GPT-5.2 от OpenAI. Модель доступна в режиме Smart Plus (рядом с GPT-5.1 в режиме Smart) во всех версиях — веб, Windows, мобилки.
Что умеет для девелоперов:
✨ Пишет и ревьюит код
✨ Разбирается в длинных доках и спецификациях
✨ Генерит таблицы и презентации
✨ Работает с изображениями
Интересная деталь: OpenAI создала новую метрику GDPval, которая тестирует модель на реальных задачах из 44 профессий. GPT-5.2 Thinking показывает результат на уровне профессионалов в 70.9% случаев — это почти вдвое лучше, чем у предыдущей версии (38.8%).
По оценке OpenAI, для большинства офисных задач модель уже достигла экспертного уровня. Особенно хорошо справляется с четко определенными заданиями.
Детали тут
@ai_for_dev
Microsoft обновила Copilot, добавив туда свеженькую GPT-5.2 от OpenAI. Модель доступна в режиме Smart Plus (рядом с GPT-5.1 в режиме Smart) во всех версиях — веб, Windows, мобилки.
Что умеет для девелоперов:
✨ Пишет и ревьюит код
✨ Разбирается в длинных доках и спецификациях
✨ Генерит таблицы и презентации
✨ Работает с изображениями
Интересная деталь: OpenAI создала новую метрику GDPval, которая тестирует модель на реальных задачах из 44 профессий. GPT-5.2 Thinking показывает результат на уровне профессионалов в 70.9% случаев — это почти вдвое лучше, чем у предыдущей версии (38.8%).
По оценке OpenAI, для большинства офисных задач модель уже достигла экспертного уровня. Особенно хорошо справляется с четко определенными заданиями.
Детали тут
@ai_for_dev
🕊1
Alibaba выпустила MAI-UI — GUI-агенты нового поколения
Alibaba Tongyi открыла MAI-UI — семейство моделей для GUI-агентов от 2B до 235B параметров. Причём подход к обучению здесь действительно интересный.
Что внутри:
🔄 Self-evolving pipeline — модель сама расширяет обучающие данные через нативное взаимодействие с пользователем, вызовы инструментов по MCP и работу в реальных динамических окружениях.
☁️ Гибридная архитектура — система сама решает, выполнять задачу локально или в облаке. На выходе: производительность на устройстве +33%, облачных вызовов -40%.
🎯 SOTA в практических задачах: GUI Grounding (точное определение элементов UI), навигация по мобильным приложениям, обучение с подкреплением в реальном времени.
Модель решает четыре критичные проблемы GUI-агентов: отсутствие нативного взаимодействия с пользователем, ограничения UI-only подходов, сложность развертывания и хрупкость в динамических условиях.
Обучена через Online RL с оптимизациями для параллельных окружений и длинного контекста.
Куда применять: UI-автоматизация, тестирование, AI-ассистенты для навигации, агентные системы.
@ai_for_dev
Alibaba Tongyi открыла MAI-UI — семейство моделей для GUI-агентов от 2B до 235B параметров. Причём подход к обучению здесь действительно интересный.
Что внутри:
🔄 Self-evolving pipeline — модель сама расширяет обучающие данные через нативное взаимодействие с пользователем, вызовы инструментов по MCP и работу в реальных динамических окружениях.
☁️ Гибридная архитектура — система сама решает, выполнять задачу локально или в облаке. На выходе: производительность на устройстве +33%, облачных вызовов -40%.
🎯 SOTA в практических задачах: GUI Grounding (точное определение элементов UI), навигация по мобильным приложениям, обучение с подкреплением в реальном времени.
Модель решает четыре критичные проблемы GUI-агентов: отсутствие нативного взаимодействия с пользователем, ограничения UI-only подходов, сложность развертывания и хрупкость в динамических условиях.
Обучена через Online RL с оптимизациями для параллельных окружений и длинного контекста.
Куда применять: UI-автоматизация, тестирование, AI-ассистенты для навигации, агентные системы.
@ai_for_dev
👍1🤡1
Salesforce сворачивает LLM в бизнес-приложениях — что пошло не так
Salesforce признала: большие языковые модели оказались слишком непредсказуемыми для корпоративных продуктов 😬
Что не зашло в проде:
• Модели теряют контекст по ходу диалога
• Игнорируют инструкции или делают что-то странное
• Для критичных бизнес-процессов это неприемлемо
Компания планировала автоматизировать рутину через гибкие AI-решения. Реальность оказалась жестче — нестабильность моделей убивала UX и надежность систем.
Что делают теперь:
Отказываются от креативных возможностей LLM в пользу жестких сценариев. Никакой генерации текста с элементами творчества — только заранее определенные правила и логика.
Полезный инсайт для тех, кто думает встроить LLM в критичные системы. Иногда старые добрые rule-based подходы надежнее модных AI-агентов 🤷
@ai_for_dev
Salesforce признала: большие языковые модели оказались слишком непредсказуемыми для корпоративных продуктов 😬
Что не зашло в проде:
• Модели теряют контекст по ходу диалога
• Игнорируют инструкции или делают что-то странное
• Для критичных бизнес-процессов это неприемлемо
Компания планировала автоматизировать рутину через гибкие AI-решения. Реальность оказалась жестче — нестабильность моделей убивала UX и надежность систем.
Что делают теперь:
Отказываются от креативных возможностей LLM в пользу жестких сценариев. Никакой генерации текста с элементами творчества — только заранее определенные правила и логика.
Полезный инсайт для тех, кто думает встроить LLM в критичные системы. Иногда старые добрые rule-based подходы надежнее модных AI-агентов 🤷
@ai_for_dev
🥱1
Hugging Face выкатили новогодний подарок — 12 бесплатных курсов по самым хайповым направлениям в AI 🎁
Что внутри:
AI Agents — учимся делать автономных агентов (самая горячая тема года)
LLM Course — как устроены мозги современных чат-ботов и как работать с Transformers
Smol-course — быстрый старт в fine-tuning, если времени мало
MCP Course — свежий курс вместе с Anthropic про подключение AI к любым данным
Deep RL — обучение с подкреплением (на этом работают роботы и OpenAI o1)
Robotics — от железяк до роботов на нейронках
Computer Vision, Audio, Diffusion — классика ML, всё при деле
Отдельная имба — Open-Source AI Cookbook со сборником готовых решений. Всё с кодом и примерами.
@ai_for_dev
Что внутри:
AI Agents — учимся делать автономных агентов (самая горячая тема года)
LLM Course — как устроены мозги современных чат-ботов и как работать с Transformers
Smol-course — быстрый старт в fine-tuning, если времени мало
MCP Course — свежий курс вместе с Anthropic про подключение AI к любым данным
Deep RL — обучение с подкреплением (на этом работают роботы и OpenAI o1)
Robotics — от железяк до роботов на нейронках
Computer Vision, Audio, Diffusion — классика ML, всё при деле
Отдельная имба — Open-Source AI Cookbook со сборником готовых решений. Всё с кодом и примерами.
@ai_for_dev
🥴1
PackEat: 100K+ аннотированных изображений для object detection в ретейле
Инженер Yandex Cloud и исследователи Сколтеха/ГУАП опубликовали PackEat — крупнейший open-source датасет для CV-систем в розничной торговле.
Характеристики:
- 100,000+ изображений (370K+ объектов)
- 34 категории, 65 классов фруктов/овощей
- Реальные условия съемки: окклюзии, вариативный фон, упаковка в полиэтилен
- 9,000 детально размеченных изображений с метаданными (count, package weight)
Задачи: fine-grained classification, instance segmentation, object counting для автоматизации POS-терминалов и систем инвентаризации.
Метрики: модели на базе датасета показывают точность до 92% на задачах распознавания.
Датасет доступен на Zenodo и Kaggle. Подходит для экспериментов с YOLO, Faster R-CNN, Mask R-CNN.
@ai_for_dev
Инженер Yandex Cloud и исследователи Сколтеха/ГУАП опубликовали PackEat — крупнейший open-source датасет для CV-систем в розничной торговле.
Характеристики:
- 100,000+ изображений (370K+ объектов)
- 34 категории, 65 классов фруктов/овощей
- Реальные условия съемки: окклюзии, вариативный фон, упаковка в полиэтилен
- 9,000 детально размеченных изображений с метаданными (count, package weight)
Задачи: fine-grained classification, instance segmentation, object counting для автоматизации POS-терминалов и систем инвентаризации.
Метрики: модели на базе датасета показывают точность до 92% на задачах распознавания.
Датасет доступен на Zenodo и Kaggle. Подходит для экспериментов с YOLO, Faster R-CNN, Mask R-CNN.
@ai_for_dev
😍1
DeepSeek представила архитектуру mHC для масштабирования LLM
Manifold-Constrained Hyper-Connections (mHC) — новая архитектура обучения больших языковых моделей, решающая проблему нестабильности при масштабировании.
Ключевые особенности:
• Улучшенный обмен информацией между внутренними слоями модели
• Сохранение стабильности обучения при росте размера модели
• Эффективное использование вычислительных ресурсов без значительного увеличения затрат
Традиционные подходы к масштабированию часто приводят к проблемам с устойчивостью по мере роста сложности архитектуры. Техника mHC позволяет моделям обмениваться более богатыми внутренними представлениями данных без ухудшения стабильности тренировки.
По неподтверждённым данным, новая архитектура может быть использована в предстоящих релизах DeepSeek R2 или V4.
@ai_for_dev
Manifold-Constrained Hyper-Connections (mHC) — новая архитектура обучения больших языковых моделей, решающая проблему нестабильности при масштабировании.
Ключевые особенности:
• Улучшенный обмен информацией между внутренними слоями модели
• Сохранение стабильности обучения при росте размера модели
• Эффективное использование вычислительных ресурсов без значительного увеличения затрат
Традиционные подходы к масштабированию часто приводят к проблемам с устойчивостью по мере роста сложности архитектуры. Техника mHC позволяет моделям обмениваться более богатыми внутренними представлениями данных без ухудшения стабильности тренировки.
По неподтверждённым данным, новая архитектура может быть использована в предстоящих релизах DeepSeek R2 или V4.
@ai_for_dev
🐳1
Channel name was changed to «AI Код — Cursor | Copilot | Claude API»
This media is not supported in your browser
VIEW IN TELEGRAM
Свой блог за час: markdown-site
Нашел крутой open-source фреймворк для запуска минималистичного блога. Вдохновлен сайтами Lee Robinson из Cursor и Steph Ango из Obsidian.
Как работает:
Пишешь пост в обычном markdown у себя на компе, запускаешь
Что внутри:
• Convex — контент обновляется в реальном времени у всех посетителей
• Netlify — бесплатный хостинг, деплой за секунды
• Markdown как источник правды — пишешь как в заметках
Бонусы для разработчиков:
• MCP-сервер из коробки — подключаешь Cursor или Claude Desktop, они видят весь контент блога
• Git для версионирования — обычные коммиты, диффы, откат изменений
• TypeScript + React
Реально быстрый старт для tech-блога. Demo здесь
@ai_for_dev
Нашел крутой open-source фреймворк для запуска минималистичного блога. Вдохновлен сайтами Lee Robinson из Cursor и Steph Ango из Obsidian.
Как работает:
Пишешь пост в обычном markdown у себя на компе, запускаешь
npm run sync — и через секунду он уже на сайте. Без ожидания сборки, без админок.Что внутри:
• Convex — контент обновляется в реальном времени у всех посетителей
• Netlify — бесплатный хостинг, деплой за секунды
• Markdown как источник правды — пишешь как в заметках
Бонусы для разработчиков:
• MCP-сервер из коробки — подключаешь Cursor или Claude Desktop, они видят весь контент блога
• Git для версионирования — обычные коммиты, диффы, откат изменений
• TypeScript + React
Реально быстрый старт для tech-блога. Demo здесь
@ai_for_dev
❤🔥1
Replit теперь бесплатен для первых экспериментов
Replit запустил бесплатный тариф Starter — отличная новость для тех, кто хочет попробовать AI-кодинг без вложений. Что дают:
• До 10 публичных проектов
• Бесплатный хостинг одного веб-приложения на 30 дней (потом можно переопубликовать)
• Базы данных + AI-интеграции из коробки
• Бесплатные кредиты на Replit Agent (обновляются каждый день)
Agent работает в режиме Fast — быстро набрасывает код, помогает спланировать структуру и подключить AI. Идеально для MVP и прототипов.
Бонус: Replit теперь в каталоге ChatGPT — можно запускать прямо из чата, вместе с Vercel, Lovable, Dropbox и другими инструментами.
Qwen сделал open-source альтернативу Photoshop для разработчиков
Команда Qwen выпустила Qwen-Image-Layered — модель, которая автоматически раскладывает картинку на 3-8 RGBA-слоев. Каждый слой (фон, объект, текст) — отдельный PNG, который можно двигать, масштабировать или удалять независимо.
Главный плюс: полностью бесплатная, лицензия Apache-2.0 — можно использовать в коммерческих проектах. Веса на GitHub и HuggingFace.
Минус: пока нельзя попробовать на официальном сайте Qwen, но есть демо на ModelScope и HuggingFace Spaces.
@ai_for_dev
Replit запустил бесплатный тариф Starter — отличная новость для тех, кто хочет попробовать AI-кодинг без вложений. Что дают:
• До 10 публичных проектов
• Бесплатный хостинг одного веб-приложения на 30 дней (потом можно переопубликовать)
• Базы данных + AI-интеграции из коробки
• Бесплатные кредиты на Replit Agent (обновляются каждый день)
Agent работает в режиме Fast — быстро набрасывает код, помогает спланировать структуру и подключить AI. Идеально для MVP и прототипов.
Бонус: Replit теперь в каталоге ChatGPT — можно запускать прямо из чата, вместе с Vercel, Lovable, Dropbox и другими инструментами.
Qwen сделал open-source альтернативу Photoshop для разработчиков
Команда Qwen выпустила Qwen-Image-Layered — модель, которая автоматически раскладывает картинку на 3-8 RGBA-слоев. Каждый слой (фон, объект, текст) — отдельный PNG, который можно двигать, масштабировать или удалять независимо.
Главный плюс: полностью бесплатная, лицензия Apache-2.0 — можно использовать в коммерческих проектах. Веса на GitHub и HuggingFace.
Минус: пока нельзя попробовать на официальном сайте Qwen, но есть демо на ModelScope и HuggingFace Spaces.
@ai_for_dev
🌚1
AI обыграл 804 программистов в соревновании по оптимизации
Агент ALE от Sakana AI взял первое место на AtCoder Heuristic Contest 058 — и это первый раз, когда AI выиграл такое соревнование, участвуя на равных с людьми. 4 часа, одна задача, никаких поблажек.
Самое интересное — агент решил задачу не так, как ожидали организаторы. Вместо стандартного подхода (жадный алгоритм + имитация отжига) он придумал свою эвристику и более хитрую стратегию поиска. Авторы задачи признали: агент нашел пути, о которых они сами не думали.
Это показывает важный сдвиг: LLM научились учиться на обратной связи и улучшать решения через итерации. Раньше им не хватало именно этой экспериментальной интуиции.
Для контекста: полгода назад, в июле 2025, на мировом чемпионате AHC агент OpenAI был вторым, Sakana — пятым. Теперь — чистая победа.
Цена вопроса: $1,300 на вызовы API (4700 запросов к GPT-5.2 и Gemini 3 Pro).
@ai_for_dev
Агент ALE от Sakana AI взял первое место на AtCoder Heuristic Contest 058 — и это первый раз, когда AI выиграл такое соревнование, участвуя на равных с людьми. 4 часа, одна задача, никаких поблажек.
Самое интересное — агент решил задачу не так, как ожидали организаторы. Вместо стандартного подхода (жадный алгоритм + имитация отжига) он придумал свою эвристику и более хитрую стратегию поиска. Авторы задачи признали: агент нашел пути, о которых они сами не думали.
Это показывает важный сдвиг: LLM научились учиться на обратной связи и улучшать решения через итерации. Раньше им не хватало именно этой экспериментальной интуиции.
Для контекста: полгода назад, в июле 2025, на мировом чемпионате AHC агент OpenAI был вторым, Sakana — пятым. Теперь — чистая победа.
Цена вопроса: $1,300 на вызовы API (4700 запросов к GPT-5.2 и Gemini 3 Pro).
@ai_for_dev
🌭1
Forwarded from Vibe-Coding — Cursor | Bolt | Lovable | v0
Сингулярность наступила — и это Claude Code
23 декабря все разошлись на праздники как обычно. А вернулись в совершенно другой мир 🌍
Что происходит прямо сейчас: фаундеры сидят по 12+ часов с четырьмя открытыми окнами Claude Code одновременно. Кто-то вайбкодит, кто-то переделывает всю структуру компании, маркетинг, финансы — и даже семейный бюджет!
Никто не предсказывал, что всё изменится ТАК быстро. Буквально за пару недель.
Даже Маск заметил это явление и назвал «Claude Code moment» — когда люди внезапно осознают масштаб происходящего. Вот это и есть настоящая трансформация.
@ai_for_vibecoding
23 декабря все разошлись на праздники как обычно. А вернулись в совершенно другой мир 🌍
Что происходит прямо сейчас: фаундеры сидят по 12+ часов с четырьмя открытыми окнами Claude Code одновременно. Кто-то вайбкодит, кто-то переделывает всю структуру компании, маркетинг, финансы — и даже семейный бюджет!
Никто не предсказывал, что всё изменится ТАК быстро. Буквально за пару недель.
Даже Маск заметил это явление и назвал «Claude Code moment» — когда люди внезапно осознают масштаб происходящего. Вот это и есть настоящая трансформация.
@ai_for_vibecoding
💯1
4 часа с n8n — от нуля до production AI-агентов
FreeCodeCamp выпустили крутой курс по n8n — платформе для автоматизации и создания AI-агентов. Если всё ещё собираете воркфлоу на коленке, самое время прокачаться 💪
Что внутри:
• Основы n8n: как работать с API, интеграциями и автоматизациями
• Практика: соберёте email-агента, research-workflow (Perplexity + OpenAI), RAG-агента с Pinecone
• Бонусом — мультимедиа: генерация картинок, видео, интеграция со Slack
Продвинутый уровень:
• Модульная архитектура и паттерны переиспользования
• Multi-workflow системы (когда агенты работают командой)
• Деплой: cloud, Docker или self-hosted
• Локальные LLM через Ollama
Весь курс бесплатный, так что можно сразу пробовать и внедрять в проекты.
@ai_for_dev
FreeCodeCamp выпустили крутой курс по n8n — платформе для автоматизации и создания AI-агентов. Если всё ещё собираете воркфлоу на коленке, самое время прокачаться 💪
Что внутри:
• Основы n8n: как работать с API, интеграциями и автоматизациями
• Практика: соберёте email-агента, research-workflow (Perplexity + OpenAI), RAG-агента с Pinecone
• Бонусом — мультимедиа: генерация картинок, видео, интеграция со Slack
Продвинутый уровень:
• Модульная архитектура и паттерны переиспользования
• Multi-workflow системы (когда агенты работают командой)
• Деплой: cloud, Docker или self-hosted
• Локальные LLM через Ollama
Весь курс бесплатный, так что можно сразу пробовать и внедрять в проекты.
@ai_for_dev
🤣1
This media is not supported in your browser
VIEW IN TELEGRAM
LAION Science Dataset Explorer: 100K+ papers с embedding-based навигацией
LAION выкатили Dataset Explorer — интерактивный граф научных публикаций на основе semantic embeddings. Датасет покрывает 60+ кластеров от Computational Linguistics & NLP (479 papers) до COVID-19 Infection (1594 papers).
Архитектура:
• Force-directed graph с proximity-based кластеризацией
• Embedding space для семантического поиска
• Stacked heatmap для анализа распределения
• Автоматическая экстракция themes, methodologies, results
Use cases:
• Literature review через semantic search
• Поиск cross-domain пересечений (например, Genomics ↔ Machine Learning)
• Анализ методологий смежных областей
• Dataset exploration для research projects
Доступен полный датасет для скачивания. Полезно для AI researchers, data scientists, academic ML engineers.
@ai_for_dev
LAION выкатили Dataset Explorer — интерактивный граф научных публикаций на основе semantic embeddings. Датасет покрывает 60+ кластеров от Computational Linguistics & NLP (479 papers) до COVID-19 Infection (1594 papers).
Архитектура:
• Force-directed graph с proximity-based кластеризацией
• Embedding space для семантического поиска
• Stacked heatmap для анализа распределения
• Автоматическая экстракция themes, methodologies, results
Use cases:
• Literature review через semantic search
• Поиск cross-domain пересечений (например, Genomics ↔ Machine Learning)
• Анализ методологий смежных областей
• Dataset exploration для research projects
Доступен полный датасет для скачивания. Полезно для AI researchers, data scientists, academic ML engineers.
@ai_for_dev
⚡1
Полноценная лаборатория для экспериментов с LLM 🧪
Нашёл отличный инструмент для тех, кто хочет понять, как устроены языковые модели изнутри — llm-madness. Это веб-интерфейс, где можно тренировать GPT-модели и наблюдать за процессом в реальном времени.
Что умеет:
— Показывает карты внимания и графики лосса прямо во время обучения
— Позволяет настраивать BPE-токенизацию: меняешь размер словаря и сразу видишь, как текст разбивается на токены
— Можно крутить параметры трансформера: сколько слоёв, голов внимания, какой размер блока
— Автоматически готовит датасеты: хеширует, делит на train/val, кеширует токены
— Поддерживает CUDA, MPS и CPU
Идеально для обучения или быстрых экспериментов с архитектурами 🚀
@ai_for_dev
Нашёл отличный инструмент для тех, кто хочет понять, как устроены языковые модели изнутри — llm-madness. Это веб-интерфейс, где можно тренировать GPT-модели и наблюдать за процессом в реальном времени.
Что умеет:
— Показывает карты внимания и графики лосса прямо во время обучения
— Позволяет настраивать BPE-токенизацию: меняешь размер словаря и сразу видишь, как текст разбивается на токены
— Можно крутить параметры трансформера: сколько слоёв, голов внимания, какой размер блока
— Автоматически готовит датасеты: хеширует, делит на train/val, кеширует токены
— Поддерживает CUDA, MPS и CPU
Идеально для обучения или быстрых экспериментов с архитектурами 🚀
@ai_for_dev
❤1🍌1
Mistral OCR 3 — распознавание текста нового уровня
Mistral запустили свежую OCR-модель, которая читает даже врачебный почерк (правда, на английском). Работает быстро, стоит недорого: $2 за 1000 страниц, а батчами вообще $1.
Есть playground для экспериментов и готовый Colab-ноутбук для автоматизации через API.
_Важная деталь_: последняя версия
Пока что разумнее использовать стабильную версию. Детали в анонсе.
@ai_for_dev
Mistral запустили свежую OCR-модель, которая читает даже врачебный почерк (правда, на английском). Работает быстро, стоит недорого: $2 за 1000 страниц, а батчами вообще $1.
Есть playground для экспериментов и готовый Colab-ноутбук для автоматизации через API.
_Важная деталь_: последняя версия
mistral-ocr-latest почему-то теряет диакритики на кириллице (ӵ, ӟ и т.д.), хотя предыдущая mistral-ocr-2505 их сохраняет. Похоже, новую модель затюнили под английские рукописные тексты, а точность на специфичных языках просела.Пока что разумнее использовать стабильную версию. Детали в анонсе.
@ai_for_dev
🏆1
Mini-SGLang — SGLang на минималках, но с полной мощностью
Ребята из LMSYS сделали крутую штуку: взяли свой топовый инференс-движок SGLang (300k строк кода) и ужали до 5k строк, сохранив всю производительность. Получился Mini-SGLang — идеальный инструмент для обучения и экспериментов.
Что внутри:
- Radix Cache — переиспользование KV-кэша для общих префиксов
- Chunked Prefill — не жрёт всю память на длинных контекстах
- Overlap Scheduling — CPU не тормозит GPU
- Tensor Parallelism — раскидывает нагрузку по GPU
- FlashAttention и FlashInfer из коробки
- OpenAI API совместимость
Работает с Llama-3 и Qwen-3, поддерживает онлайн и оффлайн инференс. Код чистый, с типами, легко читается и модифицируется. Если хотели понять, как устроены современные серверы инференса, или быстро прототипировать свою идею — это оно.
Подробности в блоге
https://github.com/sgl-project/mini-sglang
@ai_for_dev
Ребята из LMSYS сделали крутую штуку: взяли свой топовый инференс-движок SGLang (300k строк кода) и ужали до 5k строк, сохранив всю производительность. Получился Mini-SGLang — идеальный инструмент для обучения и экспериментов.
Что внутри:
- Radix Cache — переиспользование KV-кэша для общих префиксов
- Chunked Prefill — не жрёт всю память на длинных контекстах
- Overlap Scheduling — CPU не тормозит GPU
- Tensor Parallelism — раскидывает нагрузку по GPU
- FlashAttention и FlashInfer из коробки
- OpenAI API совместимость
Работает с Llama-3 и Qwen-3, поддерживает онлайн и оффлайн инференс. Код чистый, с типами, легко читается и модифицируется. Если хотели понять, как устроены современные серверы инференса, или быстро прототипировать свою идею — это оно.
Подробности в блоге
https://github.com/sgl-project/mini-sglang
@ai_for_dev
lmsys.org
Mini-SGLang: Efficient Inference Engine in a Nutshell | LMSYS Org
<p>We're excited to introduce <strong>Mini-SGLang</strong>, a lightweight yet high-performance inference framework for Large Language Models (LLMs). Derived ...
💔1
StackOverflow уходит в историю
Посмотрите на график: количество вопросов стремится к нулю. Декабрь — 3800 вопросов, начало января — всего 300.
Спад начался пару лет назад с приходом AI-помощников, но сейчас цифры рекордно низкие. Платформа, где мы все копипастили решения 15 лет, становится музейным экспонатом. 😭
Причина очевидна: зачем гуглить и листать треды, если Copilot / ChatGPT / Claude мгновенно дают рабочий код? Эпоха "нагуглил решение" закончилась.
🫡 Легенде, которая помогла миллионам разработчиков.
@ai_for_dev
Посмотрите на график: количество вопросов стремится к нулю. Декабрь — 3800 вопросов, начало января — всего 300.
Спад начался пару лет назад с приходом AI-помощников, но сейчас цифры рекордно низкие. Платформа, где мы все копипастили решения 15 лет, становится музейным экспонатом. 😭
Причина очевидна: зачем гуглить и листать треды, если Copilot / ChatGPT / Claude мгновенно дают рабочий код? Эпоха "нагуглил решение" закончилась.
🫡 Легенде, которая помогла миллионам разработчиков.
@ai_for_dev
❤2🤨1