В дополнение к нашим вчерашним новогодним открыточкам, парочка способов поздравить самых продвинутых

Для любителей математики – нестареющая классика: x-max формула. А для фанатов программирования – кот(д) в мешке – запусти и узнаешь, что будет...

from colorama import Fore

def heart_shape(msg="Merry Christmas"):
    lines = []
    for y in range(15, -15, -1):
        line = ""
        for x in range(-30, 30):
            f = ((x * 0.05) ** 2 + (y * 0.1) ** 2 - 1) ** 3 - (x * 0.05) ** 2 * (y * 0.1) ** 3
            line += msg[(x - y) % len(msg)] if f <= 0 else " "
        lines.append(line)
    print(Fore.RED+"\n".join(lines))
    print(Fore.GREEN+msg)
heart_shape()

Microsoft выпустила приложение для Copilot

Copilot работает на базе последней версии ChatGPT-4, к которой дает полностью бесплатный доступ. Также в сервис интегрирован DALL-E 3. Доступно пока только для Android (и не в России) в GooglePlay.

P.S. Google, кстати, тоже не отстает. На днях они добавили в поисковик возможность генерировать изображения.

Наглядная инфографика с важными релизами в области ИИ.

Все еще лучшая архитектура трансформера.

Учить ML теорию vs Забывать ML теорию.

Я и мои попытки подобрать гиперпараметры.

Мы все ближе к Новому году, время подводить итоги.

Канал за год вырос почти в 2 раза и медленно, но верно приближается к званию самого большого рускоязычного канала по Machine Learning (не авторских, по просмотрам).

Цели на следующий год уже расписаны, дальше только лучше. Спасибо, что вы с нами и с наступающим!

Приложение чат-бота Copilot с бесплатными GPT-4 и DALL-E 3 теперь есть и для iOS, есть в российском App Store.

Годовой рост выручки OpenAI составляет 5700%

Издание The Information сообщает, что объем выручки компании за 2023 год перешагнул отметку в $1.6 млрд. В 2022 году при этом они заработали всего $28 млн.

Конечно, такой бурный рост вызывает внимание инвесторов. Однако, мы до сих пор не знаем, сколько компания тратит на работу ChatGPT.

Да, может и не зря Сэм в таких часах гоняет.

Вот такая вот NY party, получается

На клавиатурах для Windows появится новая клавиша для вызова ИИ

Видимо Microsoft действительно верит в то, что за ИИ будущее. В 2024 году они планируют оснащать клавиатуры ноутбуков и ПК новой клавишей Copilot. Она заменит правый Ctrl.

Кстати, в прошлый раз клавиатуры меняли аж 30 лет назад – тогда на них появилась клавиша Windows.

Microsoft побили SOTA эмбеддиг-моделей

Главный камень преткновения современных подходов – данные: собрать хороший датасет для «fetching tasks» очень сложно и дорого. Поэтому часто модели сначала обучают на неразмеченный general данных, а потом файнтюнят на датасетах поменьше. Производительность таких моделей неплохая, но для RAG-систем без дополнительных танцев с бубном они обычно слабоваты.

Но в Microsoft придумали простой и действенный способ обойти эти ограничения. Они решили попросить LLM саму составить датасет, то есть сгенерировать триплеты «задача - релевантный документ - нерелевантный документ», а после обучать эмбеддинги с помощью парного лосса.

Итог – новая SOTA. Этот простой и гениальный подход теперь в топе Huggingface Leaderboard, и может стать поворотной точкой для RAG.

Статья | Модель | Датасет