Думаю, всем вам известен алгоритм KNN (это про ближайших соседей), и его объяснение одно из самых простых в мире машинного обучения.

Однако может возникнуть вопрос: “Неужели с каждым предсказанием идёт полный перебор и сравнение с тем, что содержится в обучающей выборке?”

Конечно, такой путь возможен, но зачем? Эту процедуру можно сильно ускорить, ведь визуально нам не нужно перебирать все точки, чтобы понять, кто рядом.

Для ускорения поиска строятся деревья, и в sklearn вы могли видеть метод на выбор - KD Tree или Ball Tree.

Предлагаю ознакомиться с тем, что эти алгоритмы из себя представляют, а также увидеть их сравнения.

Ученье - Свет ☀️

Есть ли жизнь после Трансформеров?

Друзья, кто-то из вас точно знает такую архитектуру нейронных сетей - трансформеры.
Эти блоки сейчас присутствуют практически (если не во всех) в каждой крупной и успешной нейронной сети.

И действительно, при грамотном применении и достаточном датасете, можно создавать чудесные и интересные проекты.
В своё время трансформеры произвели своего рода революцию в области нейронных сетей, и вот давайте порассуждаем, а что может появиться дальше?

Вот в блоках трансформера ключевая особенность в многоголовом самовнимании и позиционном кодировании за счёт чего может работать со всей последовательностью “одновременно”, как будто мы уже прочитали всё.

Что, по вашему мнению, должно изменить и продвинуть направление нейронных сетей и/или искусственного интеллекта?
Давайте пообщаемся ☀️

PS: Для тех, кто с трансформерами не знаком или плохо понимает, рекомендую изучить перевод статьи Jay Alamar про них. Очень ярко и доступно.

С праздником, товарищи 🚀