Что такое кэширование промпта и зачем оно нужно? 👨‍💻

Недавно OpenAI анонсировали эту функцию. Давайте разберемся, что это вообще такое.

Если работаешь с нейросетями, в какой-то момент сталкиваешься с тем, что генерация текста жрёт кучу ресурсов. Тут-то и приходит на помощь кэширование промпта.

Что это такое?

Кэширование промпта — это способ сохранять результаты запросов, чтобы не пересчитывать их снова. Один раз отправил запрос — результат сохранился. Следующий раз не надо ждать генерации: ответ достаётся из кэша.

Зачем это нужно?

- Экономия ресурсов: Генерация сложных текстов требует мощности. Кэширование снижает нагрузку.
- Быстрый ответ: Не нужно ждать, пока модель снова всё пересчитает.
- Стабильность: Если тебе важна консистентность ответов (например, в документах), кэш даёт один и тот же результат на одинаковые запросы.

Как это работает?

1. Модель проверяет, был ли такой запрос ранее (сравнивает промпты через хэширование).
2. Если запрос совпадает, результат вытаскивается из кэша.
3. Кэш управляется памятью: например, используется метод LRU (least recently used), чтобы удалить старые данные и освободить место.

Какие есть минусы?

- Нет гибкости: Если промпт слегка изменился, а ответ пришёл старый — это может запутать.
- Память: Кэш надо чистить, иначе он начнёт захламлять систему.

Кэширование промпта — отличный инструмент, если всё настроить правильно. Важно не перегнуть палку и не забывать чистить кэш.

Проверяем и сравниваем YandexART 🤩

В основном канале писал о том, что модель генерации картинок от Яндекса обновили до версии 2.0.
И теперь она лучше понимает промпт, смешивает стили и может даже добавлять текст на изображения.

Будем сравнивать с одной из лучших на данный момент генеративных нейросетей, добавляющих текст - Ideogram.

Как было заявлено в описании, можно будет сгенерировать изображение в фотореализме с кружкой, на которой будет рисунок в стиле аниме.

Я решил проверить сразу всё.

YandexART находится по этой ссылке. У кого-то были проблемы со входом. Если у вас тоже возникнут, можете попробовать отключить VPN.
Регистрация происходит через ЯндексID. Там же есть множество других сервисов.

Итак, перейдем к результатам. Я использовал такие промпты. На русском:

Кружка, которая стоит на столе на переднем плане. На ней в стиле аниме нарисован робот и написана фраза "ProAI Expert". На заднем плане квартира с дизайном в скандинавском стиле. Общий стиль изображения - фотореализм

На английском:

The mug that is on the table in the foreground. It has an anime-style drawing of a robot and the phrase “ProAI Expert” written on it. In the background is an apartment with Scandinavian style design. The overall style of the image is photorealism

Иии, результаты меня разочаровали. Я надеялся, что Яндекс действительно что-то годное сделали, но как я не пытался, их генератор не захотел совместить сразу и картинку робота и надпись. То робот рядом появиться, то надпись поплывет.

В общем, с нашими генераторами пока что всё грустно ☹️
Если у Вас получиться сгенерировать изображение с моей задумкой через Яндекс, присылайте в комментарии.

Кто такие разметчики данных и сколько они зарабатывают? 🤩

Разметка данных — это фундамент обучения нейросетей. Именно благодаря ей алгоритмы могут распознавать лица, управлять автомобилями и рекомендовать фильмы. Что делает разметчик данных и почему это важная профессия?

🔍 Что такое разметка данных?
Это процесс, при котором данные (изображения, видео, текст и аудио) помечаются специальными метками, чтобы стать "понятными" для машины. Без разметки данные остаются «сырыми», а значит — бесполезными для обучения.

Например, чтобы научить машину распознавать геометрические фигуры, разметчики добавляют метки: круг — это круг, квадрат — это квадрат. Так, система обучается на размеченных данных.

💼 Чем занимается разметчик данных? Основные задачи разметчика включают:

➖ Транскрибацию (перевод аудио в текст).
➖ Разметку объектов на изображениях и видео, например, для систем автопилота или медицинских исследований.
➖ Выделение ключевых слов из текстов.
➖ Структурирование документов.
➖ Анализ эмоций в комментариях и отзывах.

Некоторые задачи можно выполнять без специальной подготовки, другие требуют узкоспециализированных знаний.

💰 Сколько зарабатывают разметчики? Зарплата сильно зависит от проекта и навыков. Например:

🔤Простые задания на платформах вроде «Яндекс.Задания» оцениваются в $0.01-0.02 за задание.
🔤Полная ставка в компаниях — около 38-40 тыс. рублей за полный день.
🔤Транскрибация редких языков или разметка медицинских изображений оплачивается выше стандартных проектов.

📈 Перспективы и карьерный рост С опытом разметчик может научиться работать быстрее и точнее, увеличивая доход. Кроме того, есть возможности роста до тимлида или перехода в отдел контроля качества.

👨‍💻 Как начать карьеру? Можно пройти онлайн-курсы, тренинги, стажировки или работать на фрилансе. В том числе на хедхантере есть такие вакансии, в основном от Яндекса. Так что если хотели подработку, связанную с нейросетями - это неплохой вариант.

🔥 Многа букав. Как улучшить генерацию ответов нейросетями с помощью контекстных эмбеддингов 🔥

Метод RAG (retrieval-augmented generation, генерация с дополнением извлечения) активно используется для интеграции больших языковых моделей (LLM) с внешними источниками данных. Однако обычные методы поиска не всегда справляются с нюансами специализированных данных. Исследователи из Корнеллского университета решили эту проблему, представив технику контекстных эмбеддингов документов.

💡 В чём суть проблемы? Обычные модели эмбеддингов, такие как би-энкодеры, строят фиксированные представления документов. Эмбеддинги — это числовые представления текста (слов, предложений или документов), которые позволяют нейросетям эффективно работать с текстовыми данными. Би-энкодеры работают так: один энкодер преобразует запрос пользователя в эмбеддинг, другой — документы в корпусе. Затем они сравниваются для поиска наиболее подходящих результатов. Это работает на общих данных, но начинает "буксовать", когда дело доходит до специфических, узкоспециализированных наборов. Старый метод BM25 (алгоритм для текстового поиска, учитывающий частоту встречаемости слов) иногда даже показывает лучшие результаты.

🧠 Что предложили учёные? Исследователи улучшили би-энкодеры двумя способами:

1. Контрастивное обучение: модель учится различать похожие документы. Контрастивное обучение — это метод, где модель обучается на положительных и отрицательных примерах, учась различать похожие данные. Это делает её более точной в специализированных областях.

2. Контекстуализация: модель учитывает не только уникальные особенности документа, но и контекст всего кластера (группы похожих документов), к которому документ относится. Это позволяет учитывать общую информацию и тонкие различия одновременно.

🚀 Преимущества контекстных эмбеддингов:

🔤Увеличивают точность поиска в специализированных корпусах.

🔤Не требуют значительных изменений в процессах поиска и могут быть использованы в инструментах вроде HuggingFace (платформа для разработки и использования моделей машинного обучения) и SentenceTransformers (библиотека для создания эмбеддингов предложений и документов).

Контекстные эмбеддинги помогут улучшить работу нейросетей в любых проектах, где данные имеют сложную структуру или требуют учёта специфического контекста.

⚡️Дуров прямо сейчас меняет условия конфиденциальности в Телеграм! ⚡️

Все каналы наперебой кричат, что секретности в Телеграм больше не существует. Что мы опять все под новым колпаком ‼️

На фоне этих изменений, всем админам каналов вероятно придется выйти из сумрака. Как говорится - "Карты на стол" 😱

В канале Telegram Celebrity 🏆 пошли дальше и уже начали писать про всех ТОПов Телеграм.
— Кто есть кто
— У кого из админов какие каналы
— Кто чем живет и у кого какие доходы
— Кто и когда ездил на те или иные встречи и конференции и зачем...
И многое другое из жизни Элиты Телеграм.

Переходи и будь в курсе кто и как двигается в Телеграм, может и сам начнешь...

Совмещаем несовмещаемое 🤩

Добрый вечер. Сегодня на очереди сервис, с которым можно создавать самые необычные изображения - Artbreeder. 

Нас интересует инструмент Compose. С помощью него можно совмещать разные фотографии в одну.  Заходим на сайт, во вкладку этого инструмента.

Там можно выбрать основное фото, и добавить к нему те, с которых будут браться стиль, лицо и наполнение. И для каждого изображения есть ползунок со степенью влияния на результат.

А он получается вполне себе интересный.
Через одну генерацию попросят зарегистрироваться.

Кстати, если наберете 20 реакций, то расскажу найденной мною лайфхак, с помощью которого можно скачивать там изображения с высоким разрешением бесплатно. Да, изначально высокое качество платное.

Пробуйте.

Что там с умными городами? 🤩

Города становятся умнее, и это уже не концепция будущего, а наша реальность. Умные технологии проникают во все сферы — от управления транспортом до сортировки отходов. Сегодня расскажу о крутых примерах, которые уже реализованы в мегаполисах по всему миру.

1️⃣Умное освещение в Осло
В норвежской столице действует система умного уличного освещения, которая адаптируется к текущим условиям: трафику, погоде, даже потребностям кафе и магазинов. Например, если на улице никого нет, свет автоматически приглушается до 20% мощности. А в дождь или туман яркость увеличивается.

Технология основывается на Интернете вещей (IoT), где датчики не только контролируют освещение, но и собирают данные о дорожном движении и экологии. Это решение экономит до 70% электроэнергии и ежегодно сберегает Осло около 1,3 млн долларов.

2️⃣ Интеллектуальная транспортная система Сеула
В столице Южной Кореи внедрена умная транспортная система C-ITS, которая с помощью данных от GPS, камер и датчиков оптимизирует дорожное движение. Например, система может предсказывать пробки и изменять сигналы светофоров, чтобы сократить заторы.

Интересно, что эта технология позволяет транспорту взаимодействовать со светофорами и автобусными остановками через 5G, снижая вероятность аварий и ускоряя трафик. В рамках этой системы в 2024 году в Сеуле даже запустили автономные автобусы.

3️⃣ Умная сортировка отходов в Эль-Вакре
Эль-Вакра, небольшой город в Катаре, пошел еще дальше в области умных решений. В 2023 году здесь установили датчики на контейнеры для мусора, которые в реальном времени сообщают о заполненности баков. Это позволило оптимизировать маршруты мусоровозов: они теперь обслуживают только полные контейнеры, экономя топливо и сокращая выбросы.

Похожая технология используется и в Барселоне. Но здесь мусор всасывается в подземные хранилища с помощью вакуума, что минимизирует шум и запахи на улицах.

Что из этого вам кажется наиболее полезным? 🤔

Как машинное обучение помогает создавать изображения чёрных дыр 🤨

Телескоп Event Horizon (EHT) — это глобальная сеть телескопов, работающих синхронно как один виртуальный телескоп. Такая система помогает получать изображения чёрных дыр, но при сборе данных возникают пробелы, из-за чего изображения содержат неопределённости.

Для их устранения учёные комбинируют данные с разных телескопов и применяют алгоритмы машинного обучения. Эти алгоритмы не просто создают одно изображение, но генерируют множество возможных вариантов на основе сложных данных. Такой подход помогает эффективнее оценивать неопределённости и извлекать больше информации.

💡 Оптимизация работы телескопов с помощью нейросетей

Машинное обучение также используется для улучшения размещения телескопов. Алгоритмы помогают определять оптимальные места для установки новых телескопов, которые будут интегрированы в EHT. Это позволяет получать более точные данные с меньшей неопределённостью.

Эта методика не ограничивается только EHT. В проекте DSA-2000, который возглавляют Грег Халлинан и Викрам Рави из Caltech, будет задействовано 2000 телескопов для наблюдения за всем небом в радиодиапазоне. Проект собирает огромные объёмы данных — около 5 терабайт в секунду, и все этапы обработки данных автоматизированы с использованием нейросетей. Это позволяет обрабатывать данные быстро, а пользователи получают результаты всего через несколько минут.