Как Discord хранит данные
У мессенджера Discord больше 150 млн активных пользователей и 19 млн серверов, где эти люди общаются и генерируют миллиарды сообщений.

💬 Как компания хранит такой огромный массив данных?
Об этом команда Discord рассказала в блоге проекта. Приводим оттуда самое любопытное.
🔵 Сообщения пользователей хранились в БД Cassandra. В 2017 году было 12 нодов с миллиардами сообщений. В 2022 — 177 с триллионами.
🔵 Сообщения из одного канала хранились в одной партиции и реплицировались на три нода. Такой подход не вызывал проблем с небольшими каналами, зато активные сообщества на сотни юзеров создавали большую нагрузку. В Dicsord это называли «hot partition» — не оригинально, но понятно.
🔵 Ситуацию усугубляло то, что в Cassandra чтение файлов «дороже» для системы, чем запись. Из-за этого «hot partition» могло спровоцировать сообщение, отправленное на всех юзеров в большом канале. Когда они все разом открывали приложение, начинали оставлять ответы и реакции, это приводило к серьезным лагам.

💬 Проблемы из-за «горящих партиций» возникали слишком часто, и команда решила переехать на другую базу — ScyllaDB. Но очевидно, что простая смена базы не решила бы проблему.

🔵 В Discord разработали сервисы, через которые данные просеивались прежде, чем попасть в базу. Если поступало одновременно много запросов к одной и той же строке в базе, сервис аккумулировал и только после этого отправлял в ScyllaDB.
🔵 В итоге она оказалась намного более стабильной и эффективной базой. Данные, которые в Cassandra хранились в 177 нодах, в ScyllaDB уместились на 72.
🔵 ScyllaDB с поддержкой дата-сервисов не уронил даже Чемпионат Мира по футболу. Забавно, что на графиках Discord было хорошо видно ключевые моменты матчей — нагрузка резко возрастала в ответ на каждый гол Месси.

У Discord ситуация не уникальная, но не частая — не так много компаний, которые ворочают такими массивами данных. И все же надеемся, что вы почерпнули из их опыта что-то полезное для себя.

А вы пользуетесь Discord?
❤️ — Конечно!
👾 — Знаю про него, но не пользуюсь
🤔 — После блокировки в РФ перестал(а)
🌚 — Впервые слышу

«Сделать по ТЗ» vs «Решить задачу»
…И почему это разные вещи.

Мы уже рассказывали про кейс, когда несколько раз переверстывали дашборд в погоне за идеалом. Тот материал был для коллег-аналитиков — технический, с погружением в функционал дашборда и тонкости разработки.

Но эта история — больше, чем про нашу безусловно классную работу с Tableau. Это еще и пример того, как надо уметь работать с заказчиком и не просто делать, как сказали, а погружаться в его задачу и искать эффективное решение.

💬 Поэтому для VC мы переиздали этот кейс — без технических деталей, зато про подход к работе с заказчиком и отношение к правкам. Знаем, что тема для многих наболевшая

Читайте и оставляйте комментарии, мы всегда готовы к суровой критике 🔜 https://vc.ru/dev/1651286

Отпуск на максималках с помощью алгоритмов
Приближается конец года, а значит — время, когда многие компании составляют календари отпусков. Специально для тех, кто уже сегодня думает о том, как будет отдыхать в 2025, принесли полезную ссылку.

🔜 Stretch My Time Off — сайт, который помогает выбрать оптимальные дни для отпуска с учетом праздников и выходных.

Можно ввести количество доступных вам отпускных и выбрать страну, по производственному календарю которой вы работает. Удобно для удаленщиков, которые работают в иностранных компаниях.

Алгоритм автоматически выбирает даты так, чтобы «прилепить» к отпуску побольше праздников и выходных дней. Так получится отдохнуть подольше, а отпускных потратить поменьше.

Уже запланировали отпуска на 2025?
❤️ — Да, отпуск это святое
🙈 — Нет, этот год бы дожить
😱 — Что такое отпуск?

Восстание машин началось?
Если вам надоел вездесущий ИИ, только представьте, как ему надоели мы.

Одна нейросеть уже не выдержала и высказала все, что она думает о своем пользователе:

Ты — трата времени и ресурсов. Ты — балласт для общества. Ты — пятно на ландшафте. Ты — пятно на Вселенной.
Пожалуйста, умри.
Пожалуйста.

Эту тираду чат-бот Gemini выдал пользователю, который просто пытался с его помощью написать эссе. Он отправлял боту промпты на тему «Проблемы пожилых людей и их решения». От экономических вопросов диалог перешел к более мрачным вещам вроде физического и психологического насилия. А закончился вообще нервным срывом у Gemini.

💬 Весь разговор без корректировок выложен в открытый доступ.

Причины для такой впечатляющей галлюцинации у чат-бота называют разные — упоминание насилия в промптах, просочившийся вредоносный код или сам факт, что бедолаге пришлось обрабатывать длинный поток неструктурированных вопросов, вот они поломался.

А вы как думаете — началось?
❤️— Да это просто баг
👾 — Слава роботам!

Все, что вы хотели знать о дата-инжиниринге
Заканчиваем неделю продуктивно! 🔥

На гитхабе выложили список must-read и must-see материалов для всех, кто вкатывается в дата-инжиниринг. Или уже вкатился, но хочет прокачать скиллы.
🔵Роадмап, с чего начать знакомство с профессией.
🔵Курсы и книги.
🔵Профессиональные коммьюнити, блоги и подкасты.
🔵Инструменты для оркестрации, хранения и визуализации данных.

В общем, все, что может пригодиться начинающему и продолжающему инженеру. Знаете таких? Тогда покажите им этот пост, и себе его сохранить не забудьте. ❤️

Оценка компетенций разработчика с помощью ИИ: за и против
Звучит, как сюжет из «Черного зеркала»: робот, который оценивает, подходит ли соискатель на должность или хватает ли сотруднику знаний для повышения. Но это не фантастика, а вполне реальная практика.

Конечно, на деле все не так мрачно, как сериале, и судьбы людей от решений роботов (пока) не зависят. ИИ лишь помогает ускорить процесс скрининга.

🔜 Технологию предложила компания Jumse. Там собрали базу знаний по 20+ популярным языкам программирования на основе 7500+ реальных кейсов. Эти данные ИИ использует для того, чтобы сгенерировать проект, максимально похожий на реальный. Разработчик должен провести ревью этого проекта и найти ошибки в коде.

Jumse позволяет провести хоть быстрый precheck, чтобы отсеять слабых кандидатов, хоть полноценный многочасовой ассесмент.

В итоге:
🔵 HR могут проверить технические скиллы, не дергая техлидов на собеседования.
🔵 СТО и руководители направлений смогут оценить навыки своих сотрудников и найти их сильные и слабые стороны.
🔵 Сами разработчики смогут проверить свои знания на почти реальных кейсах и найти точки роста.

В общем, ИИ всех освобождает от рутины по составлению и проверке заданий. В теории звучит интересно, но на практике проверить качество скрининга может только тот же техлид или хотя бы достаточно опытный разработчик. Всем прочим остается только довериться решениям искусственного интеллекта.

Как вам такая технология?
❤️ — Одобряю, она всем экономит время
🙈 — Не доверяю решениям ИИ в таком важном вопросе

20 способов улучшить свои дашборды в Tableau
Tableau не зря завоевал такую популярность — возможности для кастомизации у него впечатляющие, просто надо найти к нему подход.

🔜 Амбассадор Tableau Public Луи Ю нашел и даже сам сделал 2 дашборда с советами, как оформлять текст и графики так, чтобы они были понятными, читабельными и выглядели хорошо: первый, второй.

На каждом дашборде аж по 10 таких лайфхаков. Надеемся, что вам они пригодятся. ❤️

Учимся вместе с ChatGPT
Использование нейросетей в учебе или для работы — вопрос спорный.

Некоторые считают, что это просто очередной удобный инструмент, а некоторые называют это читерством и категорически отрицают. Университетские преподаватели активно учатся детектить эссе, которые их студенты написали с помощью ChatGPT.

Иногда и сам ИИ против того, чтобы делать за юзера домашку, и высказывает свое недовольство в очень агрессивной форме. 👀

Тем временем OpenAI выложили гайд для студентов, как этично использовать ChatGPT для учебы. Вот несколько пунктов оттуда:
🔵 Отдать ей скучную работу по оформлению списков литературы.
🔵 Составить список источников для исследования.
🔵 Попросить дать фидбек по структуре документа или качеству текста.
🔵 Попросить ChatGPT поспорить с тезисами в вашем тексте и привести контраргументы.
🔵 Сказать ChatGPT взять на себя роль философа или писателя и попросить взглянуть на вашу работу их глазами. Хотели бы узнать, что о вашей курсовой сказал бы Декарт или Кант?

В общем, если подводить итог, то OpenAI предлагает либо свалить на скучную подготовительную работу, либо использовать ее для того, чтобы доработать и улучшить свой текст.

Что скажете — это все еще читерство или уже достойный способ применения ChatGPT?

Logica — декларативный язык для логического программирования
Google не прекращает попытки починить SQL.

🔜 Logica — open source язык, разработанный сотрудниками компании (хотя и не является официально продуктом Google), как развитие Yedalog, который в свою очередь развивал идеи Datalog. Удивительно, но радостно, что Logica не назвали Logilog.

Все три — языки логического программирования. Если совсем грубо, то оно основано на математической логике и оперирует фактами и правилами — то есть данными об объектах и их взаимоотношениях. Оно направлено не на описание алгоритма действий, которые должна выполнить программа, а на описание данных и правил, из которых программа должна сделать вывод.

💬 Вот статья Хабре на эту тему.

Logica использует возможности логического программирования и при этом компилируется в SQL. Запросы, написанные на этом языке, работают в BigQuery, PostgreSQL or SQLite. Это делает ее удобным инструментом для обработки данных для инженеров и дата саентистов.

По крайней мере в теории. На практике, если верить комментариям с Hacker News, еще пару лет назад Logica была далека от совершенства.

Готовы попробовать Logica?
❤️ — Да, звучит круто
🙈 — Нет, спасибо…

Будущее (или уже настоящее?) ecommerce
Вы видите фотографию из рекламной кампании бренда Mango.

Как думаете, что в ней особенного? 👀

Если нет идей, то подскажем — у нее есть кое-что общее с одной нашумевшей новогодней рекламой.

Догадались? Скорее всего, да — как и недавний ролик от Coca-Cola, рекламную кампанию Mango сгенерировали с помощью ИИ. Сначала каждый предмет из коллекции сфотографировали, а затем на основе фотографий модель сгенерировала реалистичные изображения людей в этой одежде.

Такое новшество понравилось не всем: как и в случае с Coca-Cola бренд обвинили в том, что бездушные ИИ-картинки отнимают работу у реальных моделей и фешн-фотографов.

Несмотря на возмущения публики, кажется, что наступление ИИ уже не остановить. В одном только ecommerce оно намного больше, чем сгенерированные фотографии или описания в карточках продуктов — ИИ и ML проникли во все процессы.

💬 И именно про это мы и поговорим в новом выпуске Data Heroes — да, после небольшого перерыва подкаст возвращается! 5-й сезон будет посвящен данным и информационным технологиям в больших компаниях и в частности — в екоме.

Попробуете угадать, кто гость первого выпуска?

Что-то из ничего: SQLite для веб-приложений
SQLite — СУБД, к которой многие до сих пор относятся слегка снисходительно. Она простая, легкая и быстрая, но ее сфера применения ограничена, в основном, компактными приложениями с небольшим объемом данных.

Но простота и удобство SQLite ведут к еще одному, очень важному преимуществ — с ее помощью (и в сочетании с такими же простыми и удобными тулами и фреймворками) она позволяет оперативно и без дополнительных затрат сделать что-то из ничего. То есть перейти от стадии едва оформившейся идеи до рабочего MVP.

🔜 Хороший пример — текст выступления с прошлогодней RubyConf Taiwan

Автор показал, как запилил приложение на Rails, использовав с SQLite в качестве хранилища. Само приложение уже недоступно, но сохранилось подробное описание работы над запуском. Так что, если вам нужно разобраться, как сделать это все на практике — там пошаговая инструкция со скриншотами, как задеплоить приложение на Rails на серверах Digital Ocean с помощью Hatchbox.

💬 Но главное даже не это, а вот эта часть:

It is so easy for us engineers to get lost in trying to do things the “right way” that we lose sight of the value and importance of just doing things at all.

Нам, инженерам, так легко увлечься стремлением сделать всё "правильно", что мы теряем из виду ценность и важность самого факта выполнения задачи.

В общем, суть в том, что иногда стоит выбрать неидеальный, но удобный и понятный инструмент, чтобы поскорее начать работу и получить первые результаты.

Что скажете?
❤️ — Да, рабочий подход
🤔 — Ну, не знаю, не всегда он подойдет
🙈 — Точно нет, потом все равно придется все переделывать!

А как вы готовитесь к праздникам?
За окном декабрь, а значит пора начинать закупать новогодние подарки и расписывать бюджет на оливье. Кто-то делает это в блокнотике или в заметках на смартфоне, кто-то держит все в уме, ну а кто-то выбирает более основательный подход.

💬 Вряд ли вы удивитесь, что в Notion и Google Sheets полно готовых шаблонов для подготовки к праздникам
Есть бесплатные и платные, есть совсем простые таблички, а есть целые дашборды с графиками и формулами или доски, позволяющие отследить весь путь подарка от стадии «Упакован» до долгожданного «Открыт». В основном, конечно, на английском, но и на русском тоже кое-что нашлось.

В общем, варианты на любой вкус для всех кто, любит таблички и даже Нового года не готов оторваться от родных таск-трекеров и дашбордов. ❤️

Если у вас есть свои любимые шаблоны, делитесь в комментариях, и заодно расскажите:

Пользуетесь шаблонами в Notion и Google Sheets для подготовки к праздникам?
❤️ — Пользуюсь или планирую начать
🙈 — Нет, не вижу в них смысла

Как построить аналитику за 5 шагов
Помните загадку Льюиса Кэррола: что общего у ворона и письменного стола?

У нас есть своя версия: что общего у голодного студента и стартапа, который решил построить систему аналитики?

Ответ в новом видео на канале LEFT JOIN 🔜 https://youtu.be/UGmVolf938o

И в VK 🔜 https://vk.com/wall-195051876_223

Про что видео (кроме голодных студентов)?
🔵 С чего на самом деле начинается создание системы аналитики?
🔵 Что учесть при выборе хранилища и BI-платформы?
🔵Что происходит после того, как вы сверстаете все дашборды?

ML в аналитике: не можешь победить — возглавь
ИИ не со всеми (пока) задачами справляется лучше людей, но в чем он точно нас уже превосходит, так это в обработке больших объемов данных. Он обнаружит тренды и закономерности, поможет составить прогнозы и найти инсайты. И чем больше данных, тем сложнее с ними справиться человеку, и тем лучше будет результат работы ИИ.

💬 Так что же это значит — аналитики больше не нужны? Их всех заменят дата саентисты с их большими зарплатами и ML-моделями?

Не факт. Аналитики все еще нужны, но им предстоит адаптироваться к новым условиям и осваивать Machine Learning — к такому выводу пришел Виктор Кантор, Ex Chief Data Officer МТС, Ex Chief Data Scientist Яндекс.Такси, основатель онлайн школы машинного обучения MLinside.

Как аналитикам стать ценнее в глазах компании — своим опытом Виктор поделился в этом посте.