Статья содержит ключевые аспекты реализации трансформера, включая многоголовое внимание, позиционные энкодирования и нормализацию слоев, а также их роль в обработке данных.

https://medium.com/@vipra_singh/llm-architectures-explained-coding-a-transformer-part-7-ca459ceceb61

Заключительная статья раскрывает архитектуру BERT, использующую двустороннее внимание для контекстуального представления текста, что значительно улучшает производительность в задачах NLP, таких как классификация и извлечение информации.

https://medium.com/@vipra_singh/llm-architectures-explained-bert-part-8-c60c1d9ebc82

Статья описывает концепцию результативного управления, где аналитика и оптимизация процессов помогают повышать эффективность работы и бизнес-показатели.

https://habr.com/ru/articles/864890/

Собрали для вас актуальные направления и специализации, которые будут востребованы в 2025 году.
Какие тренды продолжат расти, а какие только появятся, — изучили исследования и рассказываем ниже.

https://habr.com/ru/companies/habr_career/articles/865618/

В статье описывается, как в компании Raft организуют процесс разработки, включая применение принципов agile, важность прозрачности, автоматизации и фокуса на качестве

https://habr.com/ru/companies/raft/articles/851548/

В статье описывается, как в компании Raft внедряют практики DevOps для улучшения процессов разработки и эксплуатации.

Рассматриваются ключевые инструменты и подходы, такие как автоматизация, CI/CD, мониторинг и улучшение взаимодействия между командами.

https://habr.com/ru/companies/raft/articles/864334/

Статья обсуждает семь ключевых библиотек Python, которые необходимы для эффективной реализации MLOps (Machine Learning Operations). Эти библиотеки помогают автоматизировать, масштабировать и управлять жизненным циклом моделей машинного обучения.

https://www.kdnuggets.com/7-essential-python-libraries-mlops

Статья исследует методы интеграции текстовой и визуальной информации с помощью GPT-4 для создания мультимодальных ИИ-систем. Это позволяет улучшить взаимодействие ИИ с миром через несколько типов данных, таких как текст и изображения.

https://arxiv.org/abs/2412.10199

Статья описывает использование метода One-Class SVM для обнаружения аномальных точек в данных.

Этот метод обучает модель на “нормальных” данных и выявляет выбросы, что полезно для задач анализа аномалий.

https://scikit-learn.ru/stable/modules/svm.html#svm-outlier-detection

Предоставляем вам исследование, которое использует логистическую регрессию и RBF нейронные сети для прогнозирования дефолтных заемщиков на интернет-платформах, достигая точности до 91,1%.

https://dl.acm.org/doi/10.1145/3700058.3700114

Статья описывает ключевые методы очистки данных, которые необходимы для создания точных моделей машинного обучения.

Основное внимание уделяется обработке пропущенных значений, удалению выбросов и преобразованию данных.

https://www.kdnuggets.com/essential-data-cleaning-techniques-accurate-machine-learning-models

Bothub анонсирует новые возможности для разработки чат-ботов, включая улучшенную интеграцию с API и расширенные аналитические инструменты.

Платформа становится удобнее для пользователей и разработчиков, предлагая новые функции для создания и управления ботами.

https://habr.com/ru/companies/bothub/news/868724/

В статье сравниваются библиотеки RePlay, RecBole и Microsoft Recommenders для создания рекомендательных систем, а также проводится построение модели на примере SOTA-модели, с последующим анализом качества и времени обучения/инференса.

https://habr.com/ru/companies/sberbank/articles/867296/

Разрабатываем свой PyTorch — прикладная статья, которая шаг за шагом поясняет создание мощного фреймворка для ML, который популярен благодаря своей гибкости, простоте использования и поддержке динамических вычислительных графов.

https://habr.com/ru/articles/869118/

Автор делится прогнозами о том, что нас ждет в 2025 году, поскольку LLM впечатляюще развивается и растут возможности в бизнесе, а также в повседневной жизни.

https://habr.com/ru/articles/870002/

В практическом туториале пошагово объясняются добавление и реализация различных компонентов, таких как CNN, BatchNorm, MaxPool, MinPool, оптимизаторов (RMSProp, NaG, Adam), регуляризации, новых функций активации и DataLoader.

https://habr.com/ru/articles/869520/

Исследование показывает результаты тестирования модели o3 от OpenAI в рамках бенчмарка ARC-AGI-Pub, проведенных Франсуа Шолле.

Модель достигла 75,7% на полу-приватном наборе данных при ограничении в $10 тысяч вычислительных ресурсов, а при увеличении вычислительных мощностей результат составил 87,5%.

https://habr.com/ru/articles/869098/

Автор рассказывает, как в Beeline с помощью data catalog создали прозрачные связи между моделями ML и фичами.

Из доклада вы узнаете, зачем и кому это бывает нужно, а также один из способов решения этой задачи.

https://habr.com/ru/companies/beeline_tech/articles/868612/

В рамках доклада подробно описывается что из себя представляет OMD и показывается на примере MLflow как происходит подключение новых источников в ODM

https://habr.com/ru/companies/beeline_tech/articles/868730/

Разбор ошибок в процессе обучения как людей, так и ML-алгоритмов, которые являются неотъемлемой частью роста и улучшения.

Чтобы показать этот процесс наглядно, автор приводит 5 принципов, в которых люди и ML-модели похожи.

https://habr.com/ru/companies/ru_mts/articles/867710/

Данное исследование раскрывает роль компиляторов в оптимизации вычислений для современных аппаратных платформ, учитывая
основные особенности работы с ними и их влияние на производительность в ML

https://habr.com/ru/companies/yadro/articles/869594/