Predicting the Order of Upcoming Tokens Improves Language Modeling
Прогнозирование порядка следующих токенов улучшает языковое моделирование
https://www.alphaxiv.org/ru/overview/2508.19228v1

В работе предсказание трансформером следующего токена (NTP) дополнили обучением следующей последовательности - Token Order Prediction (TOP).

Для кодирования целевого вектора TOP использует оценку на основе близости, где следующие токены, появляющиеся раньше, получают более высокие баллы. В примере на картинке за первым токеном never следуют токены gonna, give, you и up, они получают свои оценки, соответственно, порядку следования (Token Order) - 3, 2, 1 и 0. У остальных токенов оценки приравниваются к минус бесконечности.

В результате такого обучения модель демонстрирует рост производительности по сравнению с NTP и масштабируемость.

nano-banana
инструкции

Sparse Hash AI

An Introduction to Autoencoders
Введение в автоэнкодеры
https://www.alphaxiv.org/ru/overview/2201.03898v1

Sparse Hash AI

Nano Banana проведёт вас по Средиземью.

Инструкции в комментарии.

Sparse Hash AI

Disentangling the Factors of Convergence between Brains and Computer Vision Models
https://www.alphaxiv.org/ru/overview/2508.18226v1

Работа демонстрирует существенное сходство внутренних активаций DINOv3 с паттернами нейронной активности, наблюдаемыми в человеческом мозге.

DINOv3 - это современный Vision Transformer с самоконтролируемым обучением.

Иерархическая организация показывает сильное соответствие (R=0.38) между глубиной модели и кортикальной иерархией: ранние слои предсказывают активность V1, а глубокие слои согласуются с префронтальной корой. Временная динамика демонстрирует еще более сильное соответствие (R=0.96), показывая, что последовательная обработка в слоях трансформера отражает временное развертывание зрительной обработки в мозге.

Более крупные модели неизменно достигают более высокого сходства с мозгом по всем метрикам. Это преимущество размера наиболее выражено для высокоуровневых корковых областей, с минимальным влиянием на первичные зрительные области.

Sparse Hash AI

Платформа NOMAD от scoutco.ai для походов за опятами.

Bytebot is a self-hosted AI desktop agent that automates computer tasks through natural language commands, operating within a containerized Linux desktop environment.
www.bytebot.ai/

https://github.com/bytebot-ai/bytebot

Wuji Hand от китайской компании Pan Motor.

Этот революционный актуатор - game changer в роботехнике и не только. Просто фантастика.

Sparse Hash AI

AheadForm

Sparse Hash AI