Инжиниринг Данных – Telegram
Инжиниринг Данных
23.4K subscribers
1.98K photos
56 videos
192 files
3.2K links
Делюсь новостями из мира аналитики и карьерными советами.

15 лет в Аналитике и Инжиниринге Данных, 10 лет в MAANG

🛠️ dataengineer.ru | 🏄‍♂️ Surfalytics.com

№5017813306

Реклама:
https://almond-rule-130.notion.site/1199f595f76a8030ba1be1e607c9a8ce
Download Telegram
Интересная статья, которая сравнивает Azure Synapse (их хранилище данных) и Azure Databricks (Spark) - рассматривается что, для чего используется. На самом деле даже без Azure, можно просмо посмотрят, что когда используется. Это же самое важно, выбрать правильную технологию.
Табло организует Tableau Day на русском 1 Октября.
Оказывается, если на работе у вас есть лучшие друзья, то вы в 7 раз более эффективно работаете. Я с этим согласен, вспоминаю веселые проекты в России, где все дружили. За 5 лет в Амазоне у меня нет ни одного друга из Амазона🤨 Наверно поэтому я работаю в 7 раз хуже чем мог бы)))
Apache Airflow 2.0 (это инструмент для создания Data Piplelines и он бесплатный, то есть open source). Многие инженеры используют его. Есть команды в Амазоне, которые его используют. Очень хочется сделать вебинар на data learn про Airflow для чайников. Если вы используете его на своей работе или проекте, может быть сделаете вебинар?
Amazon Plans Vancouver Expansion Where Talent Is Cheap - Причем Ванкувер один из самых дорогих городов в мире.

Теперь могу говорить, знакомьтесь, меня зовут Дмитрий, я талантливой и беру недорого🙌
Инженеры данных часто задают вопрос: «Грузить данные в реальном времени (real time streaming) или пачками (batch)»

Если спросить у бизнес заказчика, то мы получим ответ - «нам нужно в режиме реального времени отслеживать данные и быстро реагировать!» Иногда это правда, а иногда нет.

При выборе решения следует задавать следующие вопросы:
«Кто будет поддерживать data pipeline? Понимает ли моя команда, как починить этот datapipeline, когда он сломается? » - Стрминговые решения часто сложнее классчической загрузки данных раз в день/раз в час.

Другой вопрос - «Будет ли кто-нибудь действительно просматривать эти данные в нерабочее время?» - если это правда, то в отчетах в реальном времени больше смысла. Если нет, то им, вероятно, можно обойтись без streaming решения.

Задавать правильные вопросы при создании аналитического решения абсолютно необходимо для его успешного внедрения.

У вас есть кейсы, когда вы создавали стриминговое решение? Может быть есть история, когда бизнес просил real time metrics, а на самом деле им не нужно было?
Отличный совет - хочешь отдохнуть в выходные, не делай deploy на прод в пятницу. Вы не представляете сколько раз я нарушал это правило и все ломал. Иногда обновляя BI Server, иногда ETL, иногда дашборд и многое другое. Пятница для fun work можно поучиться или просто в игры настольные с коллегами поиграть🎏 А вы как по пятницам - "move fast, break things"?😎
1991 год, реклама хранилищ данных в журнале/газете.
У вас есть свое определение Аналитики? Если нет, то может использовать вот это определение.

Analytics is using data by asking questions to gain insights for decision making.

🤑
Часто возникает вопрос - кто со стороны бизнеса будет драйвить внедрение и адаптацию аналитики. SAP выпустил книгу и перевел ее на русский язык - Финансовый Директор как Интегратор Бизнеса. Много интересных примеров.
Читаю книжку, скоро расскажу вам, что там интересного пишут😊
Лично не знаком с Валерием Бабушкиным, но как я понимаю он в топ российских DS и в конце концов переехал/переезжает в Fb UK. Классное интервью, было интересно послушать. Большой респект ребятам за материал и подачу. Ну и рад за Валерия и его новые и интересные проекты в Fb. Я вот, например провалил собес в Fb. https://youtu.be/w-0NdY8y-4Y
❤‍🔥2
Работая из дома я заметил, что все больше сижу, даже не смотря на стол, который может пониматься и дает возможность работать стоя. После 10 лет работы за компьютером я осознал, что стул, это очень важно. Я часто слышал про коллег о стульях Herman Miller, но думал, что это все фигня. Стул за 1000+US$😖 Мне после 3х лет на ГКНПЦ им Хруничева, любой офисный стул казался удобным. То ли возраст, то ли Канада сделала меня нежным и мне стали не удобны все стулья, и я созрел на Aeron стул.

Вот, что про него пишут: "A few things about the Herman Miller Aeron chair; it will probably be the last office chair you ever purchase. They are well worth every dollar. They really are excellent. Very very comfortable and the mesh fits your body to perfection.".

Теперь я понял, почему коллеги очень тащятся от этих стульев и я созрел на такой же, надо инвестировать с себя правильно))

Ни у кого нет таких стульев?

Теперь вы знаете о чем нужно договариваться с работадателем при устройстве на работу - чтобы вам стул предоставили хороший, а иначе не получится добывать insights и строить хорошие distributed data systems и data pipelines.