Data Internals – Telegram
Data Internals
221 subscribers
80 photos
16 videos
1 file
74 links
Канал профессиональной конференции по инженерии данных, базам данных, системам хранения и обработки данных

Сайт: datainternals.ru
Чат: t.me/dataengineershub
Download Telegram
Media is too big
VIEW IN TELEGRAM
Современный data engineering — это искусство управления потоками данных в реальном времени.

Как построить надежные ETL/ELT пайплайнов, работать с Apache Kafka и Spark в production, организовать data lake и data mesh архитектур?

🖐️ Приглашаем вас на HighLoad++ 2025 — в секции «Data Engineering» вас ждут 9 докладов с ответами на эти вопросы. Вы разберете весь путь данных: от сбора и валидации до обработки и доставки в хранилища. Речь пойдет о системах, обрабатывающих миллиарды событий в день.

Узнайте, как обеспечить качество данных, минимизировать задержки и масштабировать обработку.

Приходите и забирайте готовые решения для своих проектов!

🔴Форматы участия: онлайн и офлайн

Проходите на сайт, выбирайте доклады на актуальные для вас темы и присоединяйтесь к нам 6 и 7 ноября на HighLoad++ 2025 🙌
Please open Telegram to view this post
VIEW IN TELEGRAM
5👍2🔥2
Система управления базами данных — звучит страшно и очень громоздко. Но мы сегодня остановимся только на ключевом с точки зрения производительности компоненте — системе хранения данных.

Программист Владимир Комаров рассказал, как развивались системы управления базами данных:
✦ С чего все начиналось
✦ Как система хранения данных СУБД эволюционировала
✦ В каком состоянии эта область находится сейчас
✦ Существует ли идеальная СУБД, и если нет, то как приблизиться к идеалу

Читать статью

🔥 — уже читаю
❤️ — сохраню, вернусь позже
👍 — отправлю друллеге
4🔥4👍3🌚1
🚀 Ищем волонтеров на крупнейшие IT-конференции в Москве!

HighLoad++
— это конференция в России и СНГ, посвященная разработке высоконагруженных систем, архитектуре, инфраструктуре и масштабированию.
TeamLead Conf — единственная профессиональная конференция для тимлидов и руководителей не только из IT.

Если тебе интересно увидеть закулисье одного из самых масштабных IT-событий страны, получить опыт организации конференции и стать частью сильной команды — присоединяйся к волонтерам 💪

🗓 Даты участия: 4–11 ноября (можно выбрать 4 дня или один из дней)
📍 Место проведения: Технопарк «Сколково»

Что тебя ждет:
– доступ к записям выступлений и атмосфера закулисья
– уникальный опыт работы на ведущих конференциях в России
– общение с экспертами и профессионалами из крупнейших IT-компаний
– понятные задачи и поддержка координаторов
– полноценное питание в дни работы
– и, конечно, участие в легендарном afterparty 🎉

Задачи волонтеров: работа в залах, помощь в логистике на площадке, регистрация участников, помощь в зоне выставки.

Участие предполагает присутствие в день до конференции, чтобы познакомиться с командой, подготовиться к работе и пройти инструктаж, и два дня самого события.

📩 Чтобы присоединиться, заполни анкету волонтера — мы свяжемся с тобой после рассмотрения заявки.

Расскажи о наборе друзьям, приходите вместе — давайте создавать легендарную атмосферу 🔥
🔥54👌3
Redpanda VS Apache Kafka
Anonymous Poll
37%
Redpanda ⚡️
63%
Kafka ⚡️
🔥1
Data Internals
Redpanda VS Apache Kafka
Между стабильностью и скоростью: Redpanda или Kafka?
Своим мнением на этот счёт поделился член ПК Data Internals X и спикер HighLoad ++ 2024, Петр Гуринов:
Интересно, как поделились голоса: 40% и 60%. Хотя я и отдал свой голос за Redpanda, ожидал большего разрыва в пользу Kafka.

В проде мы с командой по-прежнему используем Kafka и постепенно переезжаем на KRaft. Остаёмся на ней, потому что за годы работы накопили большой опыт её поддержки: от эксплуатации и тюнинга до мониторинга и быстрого решения инцидентов. А главное — мы любим Kafka за большое комьюнити и зрелую экосистему.

Но для новых продуктов руки «чешутся» запуститься с Redpanda: один бинарный файл, меньше накладных расходов и более эффективное использование ресурсов. По бенчмаркам она выдаёт более высокую скорость и низкую задержку. Из дополнительных плюсов — совместимость с Kafka API.

Но перед тем как смело идти в прод с Redpanda, нужна экспертиза, чтобы уверенно закрывать SLA и обеспечивать доступность без сюрпризов. И вот мы оказываемся в ситуации «палка о двух концах»: без настоящего опыта экспертиза не растёт, а без экспертизы тащить в прод — опасно.

Компромисс: пилот на некритичном контуре и релиз с возможностью быстрого отката.

А как у вас идет переход на Kafka Kraft? Или уже смигрировали на Redpanda?
3👍1
Друзья, добрый день!

Мы хотим обсудить с вами первые выводы из нашего двухмесячного исследования на тему "Что же не так с IT-конференциями?".
Конечно, очень хочется сказать - это всё экономический кризис, конференции тут ни при чём 🙂 Но это было бы непростительно поверхностно.
За последние пару месяцев мы (Онтико) поговорили с парой сотен человек: CTO, HRD, T&D, L&D, спикерами, членами ПК, участниками, в общем - с рынком.

Вот что получилось:
1. Знания стали commodity, знания легко найти (как в Интернете / GPT, так и на вендорских конференциях);
2. На первое место вышел контекст, самое сложное - интегрировать знания и решения в свой контур;
3. Взросление индустрии привело к сдвигу в сторону смысла - мы не просто что-то внедряем, мы задаемся вопросом - зачем, почему именно так и сейчас?
4. Лекционный формат перестал быть эффективным, он более не может быть единственным инструментом;
5. Усталость участников от лекционных форматов;
6. Программы конференций сфокусированы на бигтехах, интересы и запросы других акторов рынка учитываются слабо. И если раньше никого кроме бигтехов то и не было, то сейчас есть;
7. Мы наблюдаем смещение фокуса конференций с обмена прикладным опытом в сторону ярмарок тщеславия;
8. Экономическая ситуация требует жесткой связи с производительностью труда и финансовым результатом, многие технические роли начинают включать в себя продуктовое мышление;
9. IV промышленная революция видоизменяет систему разделения труда. EdTech, в целом, и конференции, в частности, не всегда это замечают.

Что бы вы добавили? С чем бы поспорили?
👍1👏1
Целых полтора года в VK Tech строили MemCS — новый колоночный движок Tarantool для HTAP. И даже с индексами иногда не удавалось уйти от сплошного прохода таблицы.

Разработчик СУБД Tarantool Андрей Саранчин поделился в этой статье, почему команда не смогла миновать Sequential Scan и как удалось смягчить эту проблему с помощью Data Skipping ⚡️
2👍1
«Я устал слушать доклады, где всё идеально»
«Я уже ничего не внедряю после конференций»
«Я не могу услышать опыт компаний, похожих на мою»
«Бигтехи говорят на своём языке, а мне это бесполезно»
«У меня нет инсайтов — только слайды»


Знакомые мысли?

Мы это изменим, для этого наша команда придумала новый формат конференций — конференции развития.

Конференция развития — инструмент решения задач, а не потребления контента. Конференция становится больше практикумом, чем лекциями, а ты — действительно участником, а не просто слушателем (послушать можно и YouTube). Больше интерактивных форматов и нетворкинга:

🔴ты получишь решение своих задач в брейнштормах;
🔴прокачаешь нужные тебе навыки на мастер-классах;
🔴получишь ответы на свои вопросы в экспертных зонах;
🔴прожаришь свой кейс на прожарке;
🔴обсудишь важную для тебя тему в world cafe;
🔴найдешь решение для своего кейса в case clinic;
🔴вступишь в интересное тебе сообщество в community lab;
🔴зафиксируешь опыт, полученный на конференции и спланируешь дальнейшие шаги на ретро-сессии.


Доклады, конечно, останутся. Но среди них будет больше докладов с нестандартными ходами и нестандартными решениями. Ведь именно на таких лекциях и рождаются инсайты о себе и своей деятельности.

Все подробности о том, как мы планируем пересобрать конференции можно узнать по ссылке. Мы открыты к новому: новая механика, идея, формат — давайте обсуждать!
Please open Telegram to view this post
VIEW IN TELEGRAM
Поздравляем с наступающим Новым годом ⭐️

Пусть в новом году ваши кластеры держатся устойчиво, реплики всегда догоняют мастера, а бэкапы проверяются не «на авось», а успешно. Пусть запросы оптимизируются с первого EXPLAIN, алерты срабатывают только на проде по расписанию, а не в 3:17 ночи.

Желаем, чтобы данные были консистентными, нагрузки — предсказуемыми, а решения — масштабируемыми не только технически, но и карьерно. Пусть 2026-й принесёт новые архитектуры, смелые миграции без даунтайма и проекты, которыми захочется гордиться (и показывать на нашей конференции 😉).

Сохраняйте данные. Масштабируйте идеи. И пусть Новый год закоммитится без конфликтов! 🚀
Please open Telegram to view this post
VIEW IN TELEGRAM
3🔥1
🗓 Ближайшие мероприятия ОНТИКО
сохраните себе календарь конференций и поделитесь с коллегами

В этом году мы обновили концепцию конференций: сократили долю классических лекций и усилили практическую часть. Одна из ключевых идей новой концепции в том, чтобы конференция была инструментом решения профессиональных задач, а не просто способом потребления контента.

В программу ближайших мероприятий мы включили и мастер-классы, и воркшопы, и разборы инцидентов, и обратную связь от экспертов. Всё, что может дать результат здесь и сейчас.

2-3 апреля — DevOpsConf 2026
Профессиональная конференция по интеграции процессов разработки, тестирования и эксплуатации.

20 апреля — GolangConf 2026
Конференция для Go-разработчиков и их руководителей.

20 апреля —
AiConf 2026
Прикладная техническая конференция по Data Science.

22-23 июня — Saint HighLoad++ 2026
Профессиональная конференция для разработчиков высоконагруженных систем.

25-26 июня — Saint TeamLeadConf 2026
Профессиональная конференция для тимлидов и руководителей инженерных команд.

Ноябрь — TeamLeadConf 2026
Крупнейшая конференция для тимлидов и руководителей разработки.

Ноябрь — HighLoad++ 2026
Профессиональная конференция для разработчиков высоконагруженных систем.

⚡️Планируйте участие, выступление и командировки заранее — год обещает быть плотным.
Please open Telegram to view this post
VIEW IN TELEGRAM
1👍1
Forwarded from AiConf Channel
🚀 Ищем волонтеров на ближайшие конференции Онтико!

Если вам интересно увидеть закулисье крупных IT-событий страны, получить опыт организации конференции и стать частью профессионального сообщества — присоединяйтесь к команде помощников-организаторов 💪

Вас ждет:

Доступ к записям выступлений и докладов, классная команда, понятные задачи и поддержка координаторов, общение с экспертами и профессионалами из крупнейших IT-компаний, горячее питание в дни работы, и, конечно, позитивные эмоции и памятные подарки 🎁

Задачи волонтеров: работа в залах, помощь в логистике на площадке, регистрация участников, помощь в зоне выставки.

Календарь весенне-летнего периода:

🔴DevOpsConf 2026. Профессиональная конференция по интеграции процессов разработки, тестирования и эксплуатации пройдет 2-3 апреля в Москве

🔴GolangConf 2026. Конференция для Go-разработчиков и их руководителей пройдет 20 апреля в Москве

🔴AiConf 2026. Прикладная техническая конференция по Data Science пройдет 20 апреля в Москве

🔴Saint HighLoad++ 2026. Профессиональная конференция для разработчиков высоконагруженных систем пройдет 22-23 июня в Санкт-Петербурге

🔴Saint TeamLead Conf 2026. Профессиональная конференция для тимлидов и руководителей инженерных команд пройдет 25-26 июня в Санкт-Петербурге.

Отправить заявку на участие можно на сайте

Расскажите о наборе друзьям — давайте вместе создавать легендарную атмосферу 🔥
Please open Telegram to view this post
VIEW IN TELEGRAM