Интересная статья, которая сравнивает Azure Synapse (их хранилище данных) и Azure Databricks (Spark) - рассматривается что, для чего используется. На самом деле даже без Azure, можно просмо посмотрят, что когда используется. Это же самое важно, выбрать правильную технологию.
element61
When to use Azure Synapse Analytics & Azure Databricks?
What is Azure Synapse Analytics?Azure Synapse Analytics is the Azure SQL Datawarehouse rebranded. Azure Synapse Analytics v2 (workspaces incl. Azure Synapse Studio) is still in preview. This version of Azure Synapse Analytics integrates existing and new analytical…
Табло организует Tableau Day на русском 1 Октября.
Оказывается, если на работе у вас есть лучшие друзья, то вы в 7 раз более эффективно работаете. Я с этим согласен, вспоминаю веселые проекты в России, где все дружили. За 5 лет в Амазоне у меня нет ни одного друга из Амазона🤨 Наверно поэтому я работаю в 7 раз хуже чем мог бы)))
Harvard Business Review
True Friends at Work
The case for making deeper connections with colleagues
Apache Airflow 2.0 (это инструмент для создания Data Piplelines и он бесплатный, то есть open source). Многие инженеры используют его. Есть команды в Амазоне, которые его используют. Очень хочется сделать вебинар на data learn про Airflow для чайников. Если вы используете его на своей работе или проекте, может быть сделаете вебинар?
Amazon Plans Vancouver Expansion Where Talent Is Cheap - Причем Ванкувер один из самых дорогих городов в мире.
Теперь могу говорить, знакомьтесь, меня зовут Дмитрий, я талантливой и беру недорого🙌
Теперь могу говорить, знакомьтесь, меня зовут Дмитрий, я талантливой и беру недорого🙌
Bloomberg
Amazon Plans Vancouver Expansion Where Talent Is Cheap
Amazon.com Inc. expects to nearly triple its workforce in Vancouver, where software engineers are cheap, smart and plentiful.
Инженеры данных часто задают вопрос: «Грузить данные в реальном времени (real time streaming) или пачками (batch)»
Если спросить у бизнес заказчика, то мы получим ответ - «нам нужно в режиме реального времени отслеживать данные и быстро реагировать!» Иногда это правда, а иногда нет.
При выборе решения следует задавать следующие вопросы:
«Кто будет поддерживать data pipeline? Понимает ли моя команда, как починить этот datapipeline, когда он сломается? » - Стрминговые решения часто сложнее классчической загрузки данных раз в день/раз в час.
Другой вопрос - «Будет ли кто-нибудь действительно просматривать эти данные в нерабочее время?» - если это правда, то в отчетах в реальном времени больше смысла. Если нет, то им, вероятно, можно обойтись без streaming решения.
Задавать правильные вопросы при создании аналитического решения абсолютно необходимо для его успешного внедрения.
У вас есть кейсы, когда вы создавали стриминговое решение? Может быть есть история, когда бизнес просил real time metrics, а на самом деле им не нужно было?
Если спросить у бизнес заказчика, то мы получим ответ - «нам нужно в режиме реального времени отслеживать данные и быстро реагировать!» Иногда это правда, а иногда нет.
При выборе решения следует задавать следующие вопросы:
«Кто будет поддерживать data pipeline? Понимает ли моя команда, как починить этот datapipeline, когда он сломается? » - Стрминговые решения часто сложнее классчической загрузки данных раз в день/раз в час.
Другой вопрос - «Будет ли кто-нибудь действительно просматривать эти данные в нерабочее время?» - если это правда, то в отчетах в реальном времени больше смысла. Если нет, то им, вероятно, можно обойтись без streaming решения.
Задавать правильные вопросы при создании аналитического решения абсолютно необходимо для его успешного внедрения.
У вас есть кейсы, когда вы создавали стриминговое решение? Может быть есть история, когда бизнес просил real time metrics, а на самом деле им не нужно было?
Никто не пробовал? https://vc.ru/finance/162560-razrabotchik-otkrytoy-platformy-dlya-sozdaniya-servisov-analitiki-cube-dev-s-osnovatelyami-iz-rossii-privlek-6-2-mln
vc.ru
Разработчик открытой платформы для создания сервисов аналитики Cube Dev с основателями из России привлёк $6,2 млн — Финансы на…
Стартап планирует потратить деньги за запуск коммерческой версии сервиса.
Отличный совет - хочешь отдохнуть в выходные, не делай deploy на прод в пятницу. Вы не представляете сколько раз я нарушал это правило и все ломал. Иногда обновляя BI Server, иногда ETL, иногда дашборд и многое другое. Пятница для fun work можно поучиться или просто в игры настольные с коллегами поиграть🎏 А вы как по пятницам - "move fast, break things"?😎
Лично не знаком с Валерием Бабушкиным, но как я понимаю он в топ российских DS и в конце концов переехал/переезжает в Fb UK. Классное интервью, было интересно послушать. Большой респект ребятам за материал и подачу. Ну и рад за Валерия и его новые и интересные проекты в Fb. Я вот, например провалил собес в Fb. https://youtu.be/w-0NdY8y-4Y
YouTube
Валерий Бабушкин о работе в Facebook и трендах Data Science | Интервью | karpov.courses
Курс Hard ML: http://bit.ly/42icUh3
Почти по традиции завершаем понедельник под интервью с Валерием Бабушкиным, тимлидом в X5 Retail Group.
Параллельно с обсуждением новостей из мира ML, нам удалось:
● упорядочить особенности найма в такие крупные компании…
Почти по традиции завершаем понедельник под интервью с Валерием Бабушкиным, тимлидом в X5 Retail Group.
Параллельно с обсуждением новостей из мира ML, нам удалось:
● упорядочить особенности найма в такие крупные компании…
❤🔥2
Работая из дома я заметил, что все больше сижу, даже не смотря на стол, который может пониматься и дает возможность работать стоя. После 10 лет работы за компьютером я осознал, что стул, это очень важно. Я часто слышал про коллег о стульях Herman Miller, но думал, что это все фигня. Стул за 1000+US$😖 Мне после 3х лет на ГКНПЦ им Хруничева, любой офисный стул казался удобным. То ли возраст, то ли Канада сделала меня нежным и мне стали не удобны все стулья, и я созрел на Aeron стул.
Вот, что про него пишут: "A few things about the Herman Miller Aeron chair; it will probably be the last office chair you ever purchase. They are well worth every dollar. They really are excellent. Very very comfortable and the mesh fits your body to perfection.".
Теперь я понял, почему коллеги очень тащятся от этих стульев и я созрел на такой же, надо инвестировать с себя правильно))
Ни у кого нет таких стульев?
Теперь вы знаете о чем нужно договариваться с работадателем при устройстве на работу - чтобы вам стул предоставили хороший, а иначе не получится добывать insights и строить хорошие distributed data systems и data pipelines.
Вот, что про него пишут: "A few things about the Herman Miller Aeron chair; it will probably be the last office chair you ever purchase. They are well worth every dollar. They really are excellent. Very very comfortable and the mesh fits your body to perfection.".
Теперь я понял, почему коллеги очень тащятся от этих стульев и я созрел на такой же, надо инвестировать с себя правильно))
Ни у кого нет таких стульев?
Теперь вы знаете о чем нужно договариваться с работадателем при устройстве на работу - чтобы вам стул предоставили хороший, а иначе не получится добывать insights и строить хорошие distributed data systems и data pipelines.
Hermanmiller
Aeron Chair
Aeron—the original innovative work chair, designed for all, thanks to the research of designers Bill Stumpf and Don Chadwick. Updated today with ocean-bound plastic.