Псс, третий митап по теме data engineering «DE or DIE #3» на подходе.
Когда: следующий четверг (16.07), с 19:00 до 21:00 MSK.
Будет жара — ребята рассмотрят один целиковый кейс от дата инженеров из Додо Пиццы (Ксения Томак, Михаил Кумачев, Дарья Буланова) и Solution Architect из Databricks (Иван Трусов).
Есть шанс узнать всю внутреннюю кухню приготовления пиццы! Её нельзя просто взять и приготовить — нужны ингредиенты. Про них-то и будет доклад: как, откуда и через что текут данные, необходимые для решения задачи прогнозирования спроса на них.
***
Облако слов (стек используемых технологий) для привлечения внимания:
— Cloud provider: Azure.
— Data Source: Azure MySQL DB.
— CDC pipeline: Kafka Connect + Debezium + Azure Event Hubs.
— Processing: Spark + Spark Streaming on Databricks.
— Storage layer: Delta Lake + Azure Data Lake Storage.
— CI/CD: GitHub Actions + Databricks REST API.
— Implementation language: Python.
***
Регистрация на онлайн-митап.
Материалы с прошлых митапов.
Вопросы по предстоящему митапу уже можно задавать в телеграм-канале сообщества.
Когда: следующий четверг (16.07), с 19:00 до 21:00 MSK.
Будет жара — ребята рассмотрят один целиковый кейс от дата инженеров из Додо Пиццы (Ксения Томак, Михаил Кумачев, Дарья Буланова) и Solution Architect из Databricks (Иван Трусов).
Есть шанс узнать всю внутреннюю кухню приготовления пиццы! Её нельзя просто взять и приготовить — нужны ингредиенты. Про них-то и будет доклад: как, откуда и через что текут данные, необходимые для решения задачи прогнозирования спроса на них.
***
Облако слов (стек используемых технологий) для привлечения внимания:
— Cloud provider: Azure.
— Data Source: Azure MySQL DB.
— CDC pipeline: Kafka Connect + Debezium + Azure Event Hubs.
— Processing: Spark + Spark Streaming on Databricks.
— Storage layer: Delta Lake + Azure Data Lake Storage.
— CI/CD: GitHub Actions + Databricks REST API.
— Implementation language: Python.
***
Регистрация на онлайн-митап.
Материалы с прошлых митапов.
Вопросы по предстоящему митапу уже можно задавать в телеграм-канале сообщества.
deordie.timepad.ru
DE or DIE #3 / События на TimePad.ru
DE or DIE – митап, сделанный дата инженерами для дата инженеров.
Анимация Android: как сделать плавные переходы фрагментов?
Пользователям не нравится, когда на экране приложения происходит слишком много резких движений. Это отвлекает и смущает. Кроме того, всегда хочется видеть плавный отклик на своё действие, а не судороги.
И хоть написано огромное количество статей об анимации приложений, мы столкнулись с загвоздками при её реализации.
Сегодня вышла статья нашего Android-разработчика Василия Малеева о проблеме и анализе вариантов её решения. Мы не дадим вам серебряную пулю против всех монстров, но покажем, как можно изучить конкретного, чтобы создать пулю специально для него. Разберём это на примере того, как мы подружили анимацию смены фрагментов с Bottom Sheet.
Пользователям не нравится, когда на экране приложения происходит слишком много резких движений. Это отвлекает и смущает. Кроме того, всегда хочется видеть плавный отклик на своё действие, а не судороги.
И хоть написано огромное количество статей об анимации приложений, мы столкнулись с загвоздками при её реализации.
Сегодня вышла статья нашего Android-разработчика Василия Малеева о проблеме и анализе вариантов её решения. Мы не дадим вам серебряную пулю против всех монстров, но покажем, как можно изучить конкретного, чтобы создать пулю специально для него. Разберём это на примере того, как мы подружили анимацию смены фрагментов с Bottom Sheet.
Хабр
Анимация в Android: плавные переходы фрагментов внутри Bottom Sheet
Написано огромное количество документации и статей о важной визуальной составляющей приложений — анимации. Несмотря на это мы смогли вляпаться в проблемы столкну...
Я выхожу на новую работу, мне дают ноутбук, показывают рабочее место, выдают задачу, а дальше сиди и делай сам. Спустя пару месяцев я должен знать всё о компании, но, на самом деле, я помню только сделанные задачи.
Таким выглядит мир новичков в компаниях, где нет онбординга.
Когда-то и мы были такими, но вовремя исправились. Сегодня расскажем, как создали с нуля инструмент для онбординга новичков и выстроили процессы за год.
— Кому задавать вопросы?***
— А можно подойти к директору?
— Где туалет?
Таким выглядит мир новичков в компаниях, где нет онбординга.
Когда-то и мы были такими, но вовремя исправились. Сегодня расскажем, как создали с нуля инструмент для онбординга новичков и выстроили процессы за год.
Хабр
Онбординг разработчиков
«Я прихожу на работу, мне дают ноутбук, показывают рабочее место, выдают задачу, а дальше сиди и делай сам. Спустя пару месяцев я должен знать всё о компании, но, на самом деле, я помню только...
Если мозг давит на вас изнутри и постоянно требует каких-то новых знаний — отведите его на онлайн-курсы.
Что понравилось:
— Много новых знаний. А если в голове только обрывочные знания по предмету, курсы помогут собрать их в структуру.
— Большое количество практики и домашки — это круто, сильно помогает в наработке опыта. Жрёт неимоверно много времени, но незаменимо для освоения навыков и изучения материала.
— Практики, инструменты, библиотеки, которые рекомендуют преподаватели курса, точно стоит изучить.
Что оставило вопросы:
— Домашки много, и она большая (на выполнение может уходить по 5-10 часов в неделю), возможно из-за этого у преподавателей не всегда хватает времени на детальный фидбек и прожарку по ней.
— Некоторые занятия хотелось бы заменить на самостоятельное чтение документации.
— С некоторыми преподавателями было проще, с некоторыми сложнее, но это чистая субъективщина.
***
Выбрать курс и получить скидку.
Посетить их уютные бесплатные вебинары.
Мы считаем, что учиться и развиваться нужно постоянно. А ребята из OTUS могут в этом помочь, к тому же у них есть для вас подарок — скидка 5000р. на любой открытый курс (промокод DODO_LETO20 действует до 31 августа 2020).Наши разработчики проходят курс в OTUS и готовы поделиться фидбеком.
Что понравилось:
— Много новых знаний. А если в голове только обрывочные знания по предмету, курсы помогут собрать их в структуру.
— Большое количество практики и домашки — это круто, сильно помогает в наработке опыта. Жрёт неимоверно много времени, но незаменимо для освоения навыков и изучения материала.
— Практики, инструменты, библиотеки, которые рекомендуют преподаватели курса, точно стоит изучить.
Что оставило вопросы:
— Домашки много, и она большая (на выполнение может уходить по 5-10 часов в неделю), возможно из-за этого у преподавателей не всегда хватает времени на детальный фидбек и прожарку по ней.
— Некоторые занятия хотелось бы заменить на самостоятельное чтение документации.
— С некоторыми преподавателями было проще, с некоторыми сложнее, но это чистая субъективщина.
***
Выбрать курс и получить скидку.
Посетить их уютные бесплатные вебинары.
Telegram
OTUS IT News
Экспертный контент по востребованным технологиям 2025 года: от разработки и аналитики до искусственного интеллекта и облачных решений.
Более 170 курсов+
🗓 Расписание бесплатных ОУ: https://otus.pw/24Da/
🦉 Голосуй за канал: https://news.1rj.ru/str/boost/Otusjava
Более 170 курсов+
🗓 Расписание бесплатных ОУ: https://otus.pw/24Da/
🦉 Голосуй за канал: https://news.1rj.ru/str/boost/Otusjava
Автоматическое управление памятью в .NET
Миша Карлин, схемы, код и прочий фарш в видео помогут разобраться в теме.
Какие темы разберём:
— Сборка мусора.
— Поколения кучи.
— Механизм финализации.
— IDisposable и дескрипторы системных ресурсов.
Если у вас лапки и вам это пока сложно, идите на экскурсию-знакомство с .NET для начинающих.
#dotnet #csharp #developer #it #NETFramework
Миша Карлин, схемы, код и прочий фарш в видео помогут разобраться в теме.
Какие темы разберём:
— Сборка мусора.
— Поколения кучи.
— Механизм финализации.
— IDisposable и дескрипторы системных ресурсов.
Если у вас лапки и вам это пока сложно, идите на экскурсию-знакомство с .NET для начинающих.
#dotnet #csharp #developer #it #NETFramework
Привет, %username%! За полгода число подписчиков в нашем сообществе выросло. И мы хотим познакомиться с вами поближе. Расскажите о себе?
Anonymous Poll
8%
Frontend
20%
Backend
16%
Full Stack
8%
Mobile
14%
QA
5%
SRE
8%
Team leader/CTO
1%
Gamedev
2%
Designer
19%
Менеджер, маркетолог и вот эти вот все
22 июля — всемирный день мозга (World Brain Day)
В этот день хочется напомнить, что мозг нуждается в нашей заботе, и рассказать, как это можно сделать.
Аня Перова переплела свой опыт с последними результатами научных исследований и получилась крутая статья.
Заботьтесь о своём мозге, чтобы он позаботился о вас!
В этот день хочется напомнить, что мозг нуждается в нашей заботе, и рассказать, как это можно сделать.
Аня Перова переплела свой опыт с последними результатами научных исследований и получилась крутая статья.
Заботьтесь о своём мозге, чтобы он позаботился о вас!
Хабр
Как ухаживать за мозгом
Эх, люблю свои мозги! Каждый день забочусь о них, как о самом важном. В этой статье мой опыт поддержания здоровья мозга переплетён с последними результатами науч...
А вы знаете правила заботы и ухода за мозгом?
🧠 — конечно.
🧟♂️ — не думал об этом.
🧠 — конечно.
🧟♂️ — не думал об этом.
Основной язык Dodo IS – С#, но это не мешает нашим разработчикам писать ещё и на Python, F#, JS и всём остальном.
Нам интересно узнать, на чём пишете вы.
Нам интересно узнать, на чём пишете вы.
Anonymous Poll
19%
С#
12%
Javanoscript
19%
Python
8%
Java
1%
C/C++
7%
PHP
6%
Go
6%
Swift
7%
Пишу на другом языке
15%
Вообще не пишу код
Как вы оцениваете свой профессиональный уровень: джун, мидл или сеньор?
Anonymous Poll
31%
Junior
39%
Middle
31%
Senior
Как тестировать без документации?
Так и подмывает ответить
1. Исследуйте продукт. Исследовать продукт можно разными способами.
— Берите и трогайте его, пробуйте попользоваться им разными вариантами, смотрите на него как пользователь.
— Ищите и спрашивайте экспертов, то есть людей, которые причастны к созданию продукта. Фиксируйте и задавайте вопросы относительно поведения продукта.
— Исследуйте тесты, если они есть. Они описывают поведение системы. Если самостоятельно не можете понять, что делают и проверяют тесты, берите в пару разработчика и разбирайтесь вместе. Побочный эффект такой работы — понимание. Будете знать, какие сценарии покрыты, а какие нет.
2. Разбирайтесь в коде продукта. Есть мнение, что код — лучшая документация. Я с этим утверждением согласен. Если не умеете читать код, не проблема, попросите разработчика посидеть вместе с вами, почитать код и ответить на вопросы. Тут важно помнить, что код — это документация того, как продукт работает сейчас, а не того, как он должен работать на самом деле.
3. Сделайте минимальную документацию самостоятельно. Посидеть в паре с разработчиком хорошо, но вряд ли вы запомните всё с первого раза. Да и наличие знаний только в голове QA и разработчиков — не очень хорошая практика. Напишите чек-листы, майндмэпы со сценариями, автотесты. Так у вас появится актуальная документация вашего продукта.
Что в итоге?
Ведение документации ради документации — плохая затея. Чтобы не тухнуть, документация должна быть востребованной и встроенной в ваши процессы.
В заказной разработке проблем с документацией нет, там всегда есть ТЗ, которое фиксирует договоренности с заказчиком. ТЗ встроено в процессы.
В продуктовой разработке всё немного иначе. Идеальным местом для документации может быть тестовая документация. QA на этапе тестирования видят, что получилось и могут зафиксировать это в виде тестов. Тестовая документация автоматически встраивается в процесс обеспечения качества продукта. А при грамотном подходе к организации тестовой документации получится отличный справочник по вашему продукту.
_______
Мы не смогли найти никакую статистику по наличию в компаниях документации и её качеству. Если вы знаете такую, то скиньте, пожалуйста, в комменты.
Автор поста: Евгений Иванченко. ❤️
Так и подмывает ответить
«Никак!» и закончить пост, но это не тот случай. В эпоху «Работающий продукт важнее исчерпывающей документации» тестирование продукта без этой самой документации — важный навык для QA. Ловите подборку из трёх советов, которые могут помочь, как на собеседовании, так и в жизни.1. Исследуйте продукт. Исследовать продукт можно разными способами.
— Берите и трогайте его, пробуйте попользоваться им разными вариантами, смотрите на него как пользователь.
— Ищите и спрашивайте экспертов, то есть людей, которые причастны к созданию продукта. Фиксируйте и задавайте вопросы относительно поведения продукта.
— Исследуйте тесты, если они есть. Они описывают поведение системы. Если самостоятельно не можете понять, что делают и проверяют тесты, берите в пару разработчика и разбирайтесь вместе. Побочный эффект такой работы — понимание. Будете знать, какие сценарии покрыты, а какие нет.
2. Разбирайтесь в коде продукта. Есть мнение, что код — лучшая документация. Я с этим утверждением согласен. Если не умеете читать код, не проблема, попросите разработчика посидеть вместе с вами, почитать код и ответить на вопросы. Тут важно помнить, что код — это документация того, как продукт работает сейчас, а не того, как он должен работать на самом деле.
3. Сделайте минимальную документацию самостоятельно. Посидеть в паре с разработчиком хорошо, но вряд ли вы запомните всё с первого раза. Да и наличие знаний только в голове QA и разработчиков — не очень хорошая практика. Напишите чек-листы, майндмэпы со сценариями, автотесты. Так у вас появится актуальная документация вашего продукта.
Что в итоге?
Ведение документации ради документации — плохая затея. Чтобы не тухнуть, документация должна быть востребованной и встроенной в ваши процессы.
В заказной разработке проблем с документацией нет, там всегда есть ТЗ, которое фиксирует договоренности с заказчиком. ТЗ встроено в процессы.
В продуктовой разработке всё немного иначе. Идеальным местом для документации может быть тестовая документация. QA на этапе тестирования видят, что получилось и могут зафиксировать это в виде тестов. Тестовая документация автоматически встраивается в процесс обеспечения качества продукта. А при грамотном подходе к организации тестовой документации получится отличный справочник по вашему продукту.
_______
Мы не смогли найти никакую статистику по наличию в компаниях документации и её качеству. Если вы знаете такую, то скиньте, пожалуйста, в комменты.
Автор поста: Евгений Иванченко. ❤️
Пицца с точки зрения Data Engineering. Видео и материалы с митапа DE or DIE #3.
Нельзя просто взять и приготовить пиццу...Нужны ингредиенты! Как, откуда и через что текут данные, необходимые для решения задачи прогнозирования спроса на них?
Dodo Pizza с Databricks сделали проект по прогнозированию закупок ингредиентов в пиццериях. Для этого они разработали набор near real-time и batch пайплайнов для сбора данных из источника, загрузки их в Delta Lake и подготовки витрин для использования в машинном обучении.
В видео подробный разбор каждого этапа и подводных камней проекта.
Авторы доклада: Ксения Томак, Дарья Буланова, Михаил Кумачев (Data Engineering Team, Dodo Pizza). Иван Трусов (Solutions Architect, Databricks).
***
Видео.
Материалы на GitHub.
Уютный ламповый чатик.
Нельзя просто взять и приготовить пиццу...Нужны ингредиенты! Как, откуда и через что текут данные, необходимые для решения задачи прогнозирования спроса на них?
Dodo Pizza с Databricks сделали проект по прогнозированию закупок ингредиентов в пиццериях. Для этого они разработали набор near real-time и batch пайплайнов для сбора данных из источника, загрузки их в Delta Lake и подготовки витрин для использования в машинном обучении.
В видео подробный разбор каждого этапа и подводных камней проекта.
Авторы доклада: Ксения Томак, Дарья Буланова, Михаил Кумачев (Data Engineering Team, Dodo Pizza). Иван Трусов (Solutions Architect, Databricks).
***
Видео.
Материалы на GitHub.
Уютный ламповый чатик.
YouTube
DE or DIE #3. Dodo Pizza & Databricks – Разбор реального проекта: E2E пайплайн данных.
Материалы всех наших митапов доступны на GitHub: https://github.com/deordie/deordie-meetups
Наш чат в Telegram: https://news.1rj.ru/str/deordie_chat
Новые события сообщества DE or DIE: https://deordie.timepad.ru/events/
Авторы доклада:
Ксения Томак, Дарья Буланова…
Наш чат в Telegram: https://news.1rj.ru/str/deordie_chat
Новые события сообщества DE or DIE: https://deordie.timepad.ru/events/
Авторы доклада:
Ксения Томак, Дарья Буланова…
Однажды мы обнаружили, что приложение Додо Пицца запускается в среднем 3 секунды, а у некоторых «счастливчиков» 15-20 секунд.
Максим Качинкин разобрался, в чём дело. Получилась целая детективная история про рост базы данных Realm, перформанс метрики, их аналитику, статистику и инструмент профилирования.
В конце всё закончилось хеппи эндом, но вы всё равно почитайте, чтобы самим в такое не вляпаться!
Максим Качинкин разобрался, в чём дело. Получилась целая детективная история про рост базы данных Realm, перформанс метрики, их аналитику, статистику и инструмент профилирования.
В конце всё закончилось хеппи эндом, но вы всё равно почитайте, чтобы самим в такое не вляпаться!
Хабр
Сказ о том, как каскадное удаление в Realm долгий запуск победило
Все пользователи считают быстрый запуск и отзывчивый UI в мобильных приложениях само собой разумеющимся. Если приложение запускается долго, пользователь начинает грустить и злиться. Запросто можно...
Базы данных. Курс молодого бойца. Введение.
Мир СУБД кажется хаотичным, когда сталкиваешься с ним впервые. Непонятно, с какого угла начинать изучать тему и где найти простые объяснения.
Миша Карлин создал видеокарту, с помощью которой новички смогут проще ориентироваться в мире баз данных.
Что будет в видео:
— Вводный инструктаж в мир баз данных.
— Обзор популярных моделей данных: реляционной, документной, ключ-значение, граф, и.т.д.
— Рассмотрение связей между данными в различных моделях.
— Сравнение, советы по выбору.
#субд #sql #redis #mongodb #neo4j #cassandra
Мир СУБД кажется хаотичным, когда сталкиваешься с ним впервые. Непонятно, с какого угла начинать изучать тему и где найти простые объяснения.
Миша Карлин создал видеокарту, с помощью которой новички смогут проще ориентироваться в мире баз данных.
Что будет в видео:
— Вводный инструктаж в мир баз данных.
— Обзор популярных моделей данных: реляционной, документной, ключ-значение, граф, и.т.д.
— Рассмотрение связей между данными в различных моделях.
— Сравнение, советы по выбору.
#субд #sql #redis #mongodb #neo4j #cassandra
А как вы разбирались с темой баз данных?
🤓 — смотрел видосики и читал.
🙋🏻♂️ — спрашивал у коллег.
🙈 — так пока и не разобрался.
🤓 — смотрел видосики и читал.
🙋🏻♂️ — спрашивал у коллег.
🙈 — так пока и не разобрался.