Data Portal | DS & ML – Telegram
Data Portal | DS & ML
8.83K subscribers
189 photos
75 videos
4 files
251 links
Всё самое интересное из мира Data Science и машинного обучения

Связь: @devmangx
Download Telegram
Apple выкатили мощный опенсорс-инструмент для визуализации эмбеддингов — Embedding Atlas — и он неожиданно крут для всех, кто работает с большими датасетами текст + метаданные

Это очень напоминает Atlas от Nomic, но до него я так и не дошёл 😅

Тут у нас: поиск в реальном времени, рендеринг миллионов точек и автоматическая кластеризация с автолейблингом.

В одном из примеров они визуализируют ~200 000 отзывов на вино, используя эмбеддинги + метаданные вроде цены, страны и дегустационных заметок. И всё это летает даже в браузере, никакого дополнительного кода!

Инструмент закрывает ровно те потребности, которые большинство LLM-разработчиков обычно колхозят вручную:

- UMAP-проекции
- Фасетный поиск по метаданным (например, «страна vs. цена»)
- Ховер + тултип по сырым точкам
- Интерактивные фильтры, гистограммы и оверлеи кластеров
- Кросс-линк между scatterplot и таблицей

Под капотом:
• Быстрый рендер через WebGPU (с фолбеком на WebGL)
• Поиск по семантической близости в пространстве эмбеддингов
• Контуры плотности (kernel density) для поиска кластеров и аномалий

Всё просто: загружаешь .jsonl или .csv с текстом + вектором + метаданными — остальное он сделает сам: кластеризация, автолейблы, UI-лейаут и всё остальное.

По ощущениям, это как Tableau, но LLM-нативный — заточенный под текст, чат и современные дата-задачи.

Если вы делаете RAG-оценку, тюнинг поиска, объяснимость кластеризации или даже аудит датасетов, то это может стать вашим новым любимым инструментом.

https://apple.github.io/embedding-atlas/overview.html

👉 @DataSciencegx
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍124
Microsoft обновила годный курс по генеративному ИИ

Бесплатный курс из 21 урока доступен на Github и обучит всему необходимому для начала разработки приложений с генеративным ИИ

https://github.com/microsoft/generative-ai-for-beginners

👉 @DataSciencegx
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥103👍1
Отслеживайте и оценивайте любое LLM-приложение всего одним декоратором

DeepEval позволяет трейсить и оценивать LLM-приложения на уровне отдельных компонентов.

Это помогает выявлять узкие места и эффективнее оптимизировать сложные пайплайны.

Полностью опенсорс: https://github.com/confident-ai/deepeval

👉 @DataSciencegx
Please open Telegram to view this post
VIEW IN TELEGRAM
5👍2
Бесплатные Google Colab-ноутбуки для реализации каждого алгоритма машинного обучения с нуля

https://udlbook.github.io/udlbook/

👉 @DataSciencegx
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
11👍3
Каждый повторный вызов LLM — это просто сжигание денег

Обычный кэш тут не поможет, если только промпт не совпадает дословно.

Redis 8 меняет правила игры с семантическим кэшированием, которое понимает смысл, а не только ключ.

LangCache + Vector Sets + Redis Flex = быстрее, дешевле, умнее

Полный разбор:
https://newsletter.systemdesignclassroom.com/p/every-repeated-llm-call-is-money-on-fire

👉 @DataSciencegx
Please open Telegram to view this post
VIEW IN TELEGRAM
9👍4
Фреймворк для создания мультиагентных AI-систем в Telegram, готовый к запуску с минимальными настройками

evi-run подходит для создания AI-ассистентов, виртуальных персонажей, автоматизированной службы поддержки, аналитиков данных, торговых агентов на DEX и других кастомных мультиагентных систем

Архитектура построена на Python, OpenAI Agents SDK, Telegram Bot API, PostgreSQL и Redis. Deploy через Docker за 5 минут

GitHub репозиторий → https://github.com/pipedude/evi-run

👉 @DataSciencegx
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥4👍32
This media is not supported in your browser
VIEW IN TELEGRAM
Google выложили в опенсорс Python-библиотеку LangExtract!

Она использует LLM для извлечения сущностей, атрибутов и связей, с точной привязкой к источнику, из неструктурированных документов.

Поддержка любых LLM (Gemini, OpenAI, Ollama).

https://github.com/google/langextract

👉 @DataSciencegx
Please open Telegram to view this post
VIEW IN TELEGRAM
2👍1
This media is not supported in your browser
VIEW IN TELEGRAM
Иллюстрированное руководство об AI-агентах в одном PDF

В нём:

🔸Основы работы агентов
🔸LLM vs RAG vs агенты
🔸Паттерны проектирования агентов
🔸Базовые компоненты агентов
🔸Создание кастомных инструментов через MCP
🔸12 практических проектов для AI-инженеров

https://drive.google.com/file/d/1Th8mN_IF7Ttc8bI_OLtUuQ7Mjx3aJ6Hi/view

👉 @DataSciencegx
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥73👍1
Это один из самых впечатляющих технических блогпостов, которые я читал в последнее время: построение веб-поисковика с нуля за два месяца с 3 миллиардами нейронных эмбеддингов

👉 @DataSciencegx
Please open Telegram to view this post
VIEW IN TELEGRAM
4👍2👀2🏆1
Создай свою собственную модель ИИ

Этот репозиторий содержит код для разработки, предобучения и fine-tuning’а LLM наподобие GPT с нуля: https://github.com/rasbt/LLMs-from-scratch

Недавно там появился новый раздел: Gemma 3 с нуля

Является официальным репозиторием к книге Build a Large Language Model (From Scratch).

👉 @DataSciencegx
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
7👍3
Forwarded from IT Portal
Media is too big
VIEW IN TELEGRAM
Нашёл крутейшую платформу для подготовки к DS-собесам

Внутри: 1000+ реальных интервью-вопросов от Facebook, Google, Amazon, Microsoft и других топовых компаний. Практика по SQL, Python, R, статистике, алгоритмам, product sense и даже system design

Есть встроенный IDE с датасетами, где можно сразу писать и валидировать код. База регулярно обновляется

Бесплатно доступно 75 кодинг-задач, 600 вопросов и 50 тестовых заданий. Забираем здесь 🍯

@IT_Portal
🔥53👍1
This media is not supported in your browser
VIEW IN TELEGRAM
Рецептивное поле в CNN, или как нейросети «видят»

В сверточных нейронных сетях (Convolutional Neural Networks, CNN) рецептивное поле — это область входного изображения, с которой работает конкретный нейрон. Оно соответствует максимальной области, которую сеть способна обработать.

Иными словами, рецептивное поле определяет ту часть изображения, которую нейрон «видит» при выполнении вычислений. По мере того как в CNN наслаиваются новые уровни, рецептивное поле увеличивается, и более глубокие слои могут захватывать более сложные паттерны на больших фрагментах изображения.

👉 @DataSciencegx
Please open Telegram to view this post
VIEW IN TELEGRAM
6👍4
This media is not supported in your browser
VIEW IN TELEGRAM
Все недооценивают эту новую OCR-модель

dots-ocr — это новая vision-language модель с 1.7B параметров, которая показывает SOTA-результаты в мультиязычном парсинге документов

- Поддержка 100+ языков

- Работает как с изображениями, так и с PDF

- Без проблем обрабатывает текст, таблицы и формулы

Полностью опенсорс:
https://github.com/rednote-hilab/dots.ocr

👉 @DataSciencegx
Please open Telegram to view this post
VIEW IN TELEGRAM
5👍3
This media is not supported in your browser
VIEW IN TELEGRAM
Создавайте схемы архитектур нейросетей на основе параметров

Знакомьтесь: NN-SVG — бесплатный опенсорс инструмент, который делает создание диаграмм архитектур нейросетей быстрым и удобным.

Что он предлагает:

- Генерация диаграмм архитектур нейросетей по параметрам
- Экспорт в SVG для простой интеграции в статьи и презентации
- Настройка внешнего вида: цвета, размеры и схемы расположения

Поддерживаются три типа диаграмм:

🔹 Полносвязные сети (FCNN)
🔹 Сверточные сети (по примеру LeNet)
🔹 Глубокие нейросети (по примеру AlexNet)

Ссылка на репо: https://github.com/alexlenail/NN-SVG

👉 @DataSciencegx
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥97
This media is not supported in your browser
VIEW IN TELEGRAM
Вышло годное видео «Adventures in State Space» на YouTube-канале 2swap. Очень качественный ролик в открытом доступе, рекомендую к просмотру

Кстати, другие видео там не менее достойные 🤓

👉 @DataSciencegx
Please open Telegram to view this post
VIEW IN TELEGRAM
7👍1🔥1
This media is not supported in your browser
VIEW IN TELEGRAM
Получайте RAG-ready данные из любого неструктурированного файла

Tensorlake преобразует неструктурированные документы в RAG-ready данные в несколько строк кода. Возвращает layout документа, структурированное извлечение, bounding boxes и т. д.

Работает с любым сложным layout, рукописными документами и многоязычными данными

https://github.com/tensorlakeai/tensorlake

👉 @DataSciencegx
Please open Telegram to view this post
VIEW IN TELEGRAM
9👍3🔥1
Этот YouTube-канал - настоящая сокровищница для понимания концепций машинного обучения.

Ссылка: https://www.youtube.com/@datamlistic/videos

👉 @DataSciencegx
Please open Telegram to view this post
VIEW IN TELEGRAM
12👍3🤯1
This media is not supported in your browser
VIEW IN TELEGRAM
Деплойте AI-приложения, просто добавив Python-декоратор

Beam — опенсорс альтернатива Modal для деплоя серверлесс AI-нагрузок.

Просто выполните uv add beam-client, добавьте декоратор и превратите любой воркфлоу в серверлесс-эндпоинт

https://github.com/beam-cloud/beta9

👉 @DataSciencegx
Please open Telegram to view this post
VIEW IN TELEGRAM
5👍2
Понимание LLM с нуля

Статья с нуля и на арифметике уровня средней школы объясняет, как работают LLM: от ручной «генеративки на бумаге» до современной архитектуры Transformer

Читаем здесь

👉 @DataSciencegx
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
11👍3🔥2