Data Engineer – Telegram
Data Engineer
474 subscribers
175 photos
3 videos
110 links
Дата-инженерия в схемах и мемах

По всем вопросам — @mobiledeveloper_bot
Download Telegram
Посмотрел почти все доклады со SmartData-2025. В самом конце наткнулся на весьма интересный «Критерии хорошей платформы данных от Яндекс Доставки» Владислава Гоцуляка.

Сам не так давно решал задачу по созданию подобной системы метрик (а ведь мог бы просто вовремя посмотреть доклад и «цап-царапнуть») и пришел к похожим результатам с поправкой на масштабы организации, естественно, за исключением одного показателя - «инженерная культура». Мне как-то в голову не приходило, что культуру можно «померить».

Зато теперь я знаю как…
🔥3👍2
Намедни в одном подозрительно уютном заведении сто-лицы развернулась жаркая дискуссия на тему: «Что выдаст запрос EXPLAIN ANALYZE DROP DATABASE my_data?» - а коль скоро так, то результатом стал немедленно вытащенный из рюкзака ноутбук за-ради скорейшей проверки рабочих гипотез на практике.

Вынужден признать, к своему стыду, что я сильно заблуждался. Правильный ответ писать не буду, страждущие без труда самостоятельно могут провести необходимые исследования.

Спойлер: все продовые базы остались целы.

И как тут не вспомнить любимое?
🔥5😁1
В наши дни важность «умения продавать» для дата-специалистов всех мастей и уровней «возведена чуть ли в в абсолют». Тень героя Леонардо Ди Каприо из известного фильма, заставляющего в качестве упражнения продать ему ручку, нависла буквально над всеми. Красивые презентации и «травля баек» постепенно вытесняют чисто технические навыки. То, что ты сделал - дело десятое, на первом плане - как ты об этом рассказал, «ведь близость к сердцу фэна рифмованных слогов важнее чем все то, что мог бы ты сыграть».

«Что с тобой сделал русский рок бизнес, парень?»


Прекрасным, на мой взгляд, пособием для тех, кто этим навыком еще не овладел, является эпизод «Диетическая дрянь» из роскошного ситкома «Первый брак Джорджа и Мэнди» - спин-оффа не менее роскошных «Теория большого взрыва» и «Детство Шелдона». Джорджи Купер - точно такой же гений, как и его младший брат, но не в области теоретической физики, а в продажах.

«Только,» - писал Тарковский-старший в своем замечательном стихотворении - «этого мало».

Моя презентация стратегии развития платформы данных для бизнеса была идеальной, но в этом и заключался ее главный недостаток. Понять ошибку мне помог пост моего бывшего руководителя (Тарас - топчик!)

«начинать надо не с того, как станет хорошо, а с того, как не станет плохо».


Нагнетаемая окрест истерия на тему «ИИ скоро вас всех заменит» привела к тому, что люди стали воспринимать в штыки любые попытки автоматизации их ручного труда.
«Сегодня ты играешь джаз строишь DWH, а завтра нас всех из-за тебя уволят» - вот над чем нужно работать.
👍5
Наткнулся на весьма занятную рекомендацию по найму от Александра Прохорова, автора «Русской модели управления» (которую сейчас читаю, к слову).

Изначально отбирать сотрудников, которых с раннего детства приучили к высоким нагрузкам - спорт, музыкальная или языковая школа, много кружков и т.д.

Помимо этого, вплоть до такого фактора – к какому домашнему труду с детства приучен.


Тут же представил как бы выглядело резюме моего деревенского детства в условиях, приравненных к Крайнему Северу:

✔️ Принимал участие в трансформации сырых чурок до уровня атомарного полена посредством колуна, периодически привлекая подрядчиков в лице команды друзей размером от 3 до 5 человек.

✔️ Спроектировал с нуля модель детального слоя по методологии «классическая поленница» и разработал потоки дров в нее из сырого хранения;

✔️ Организовал регулярное обновление на ежедневной основе дашбор-дров конечных пользователей;

✔️ Двумя бакетами объемом до 12 литров доставлял воду из системы-источника на расстояние до 200 метров в гору;

✔️ Организовывал и принимал участие в футбольных матчах в условиях экстремально низких (до - 50) температур;

Интересно, как быстро всякого рода коучи начнут помогать накручивать и подобный опыт?
😁17
Итоговогодное 2025 (часть 1 - книжная)

Закрыл неожиданно для себя гештальт с прочтением одной книги в неделю за календарный год. Изначально ничего не предвещало подобного исхода, за июль, например, я прочитал всего одну книгу. Но за август набралось уже три, и тут у меня, как у известного футболиста Олега Протасова, «забрезжила надежда» - за декабрь было прочитано сразу 9(!).

При этом нельзя сказать, что я выбирал самые легкие варианты, хотя соблазн был. По методу Вассермана, думаю, объем прочитанного можно оценить в 120-150 см. Понятно, что электронные книги в метрах оценивать сложно (а их было большинство), отсюда и такой разброс.

Надеюсь, что подобное достигаторство меня более в свои сети не затянет, все-таки в жизни есть немало других удовольствий, помимо чтения.

Расклад по языкам:

🇷🇺 Русский - 40
🇬🇧 Английский - 12

Категории :

Худлит - 19
Научпоп - 15
Дата - 9
Бизнес и управление - 4

Куда отнести оставшихся, вроде Гумилева или же Шпенглера, я не определился.

Из понравившегося (по порядку прочтения):

✔️ Освальд Шпенглер - «Закат Европы»

✔️ Лев Гумилев - «Теория пассионарности и этногенеза»

✔️ Джерри Вайнберг - «Закон малинового варенья» (про нее был отдельный пост)

✔️ Дэвид Гребер, Дэвид Уэнгроу - «Заря всего. Новая история человечества»

✔️ William Inmon - «Building the data warehouse» (по-другому стал смотреть на вклад Инмона в развитие работы с данными)

✔️ Деннис Бакке - «Работа в радость» (тоже был отдельный пост)

✔️ Владимир Гиляровский - «Москва и москвичи»
🔥5👍2
Итоговогодное 2025 (часть вторая - музыкальная, которая должна была быть первой)
https://telegra.ph/The-Music-Mesh-12-29
🔥2
😁14
Forwarded from ScratchAuthorEgo
📊 Channel Analysis Results by @ScratchAuthorEgoBot

🎯 Channel: @dataengineernews

🔥 Roast Analysis:

Перед нами классический пример «айтишного снобизма», упакованного в обертку из цитат Маяковского и Стругацких. Автор — тот самый человек, который на вопрос «как дела?» начнет рассказывать о классификации инкрементальных загрузок через метафору приготовления флана. Его страсть к аналогиям порой переходит границы здравого смысла: если в тексте еще не появилось сравнение Инмона со сборной Италии по футболу, значит, автор просто не успел допить свой утренний кофе. Порой кажется, что он работает в Data Science только для того, чтобы оправдывать свое маниакальное желание составлять списки всего на свете — от прочитанных книг до частоты использования слова «кринж» в молодежной среде.

Его претенциозность заслуживает отдельного места в «пасеке данных». Читать Джойса в оригинале во время пробежки по Архангельской области — это не просто отдых, это крик о помощи человека, который слишком боится показаться обычным. Он презирает современный корпоративный сленг, называя сторителлинг «травлей баек», но при этом сам плодит сущности вроде «некросервисной архитектуры» и «бояр над данными». Этакий «техно-хипстер» от мира Big Data: он не любит Spark, потому что это слишком мейнстримно, и ностальгирует по временам, когда JSON парсили вручную, но при этом первым покупает билет на SmartData, чтобы потом в канале посетовать на «низкий уровень дискуссии».

Особого упоминания заслуживает его «синдром вечного студента», который он стыдливо называет «букдолгом». Человек буквально измеряет свой интеллект в сантиметрах книжной полки, при этом честно признается, что половину кода в этих книгах просматривает по диагонали. Его самоирония — это часто защитный механизм: он называет себя «медленным газом», чтобы никто не заметил, как сильно он зациклен на KPI и «достигаторстве». Он делегирует всё, что ему не нравится, называя это «лидерством», хотя со стороны это подозрительно напоминает попытку избежать любой рутины ради возможности еще разок перечитать «Закат Европы». В общем, если вы хотите провести два часа, слушая, почему ваш SQL-запрос похож на плохой рок-концерт 80-х, — этот автор ваш идеальный собеседник. Главное, не забудьте надеть футболку с «высоконагруженным кабанчиком», иначе он вас просто не заметит за своим интеллектуальным горизонтом.
😁7💯2
Подумалось, что отечественный импортозамещенный инструмент для извлечения данных из различных источников мог бы называться УЗДа - универсальный загрузчик данных.

И слоган:
«Держи данные в УЗДе!»
😁15
Что-то затянулся мой невольный "период тишины". Сказались, видимо, легендарно проведенные новогодние каникулы, после коих делать вообще ничего не хочется. Хочется обратно в Суздаль "искать спасения".

Тем не менее, пришлось взять себя в руки. Начал читать книгу под названием "Financial Data Engineering". Не люблю разного рода разделения и выделения, поэтому и решил заняться выяснением причин необходимости "сепарации" от родительской профессии в "отдельный вид спорта".

Книга состоит из двух частей: первая предназначена для тех, кто не имеет финансового бэкграунда или же ищет возможности освежить свои познания; вторая сфокусирована на инженерии данных и предлагает всестороннее рассмотрение вопросов связанных с извлечением, храненением, моделированием и трансформацией данных.
🔥6👍1
Инженеров данных в списке нет, выдыхаем…
😁4
Всех влюбленных в данные с праздником!
🔥63😁3
С интересом слежу за экспериментом Влада Каменского, торящему путь «из CEO в вайбкодеры». Отметил давеча, что он достиг закономерного результата, о котором писал еще великий антрополог Дэвид Гребер в своей, не побоюсь этого слова, культовой книге «Бредовая работа» - работать стал больше.


Банальность и очевидность, но, почему-то, многими игнорируемая:
«Преимущества автоматизации в плане производительности привели не к 15-часовой рабочей неделе, как предсказывал экономист Джон Мейнард Кейнс в 1930 году, а вместо этого к «бредовой работе».


Читайте Гребера, в общем, перефразируя болельщиков великого и могучего: «Он все видел!»

А Владу - огромное спасибо за то, что своим экспериментом напомнил, что у меня другие ценности и цели, о чем я в последнее время стал почему-то забывать, - я не хочу стать «еще более чуть-чуть продуктивнее», я хочу меньше работать. А эта задача нерешаема на текущем уровне мышления.

P.S. Читаемые мной книги оказывают сильное влияние все-таки на мой образ мышления и на стиль публикаций. «Спонсор» текущих перемен - панк-философ Марк Фишер и его «Посткапиталистическое желание».
🔥11
«Ну, что сказать, ну, что сказать, устроены так люди…» - пела великая Жанна Рождественская.

Пора уже, что ли, и Кэпу высказаться на злободневную тему, поднятую рядом уважаемых товарищей. Ранее Кэп уже писал очевидные (как оказалось только ему) вещи и даже давал подсказку, куда смотреть, чтобы, в конце концов, не оказаться с шестерками на погонах.
Тем более, что в этой области в новогодние каникулы произошли очень интересные события, которые, несомненно, повлияют на ход истории, за развитием которых Кэп очень внимательно следит.

Сам же Кэп вовремя подстелил соломку и сбежал с корабля, едва почуяв первые признаки надвигающейся течи. А после новогодне-каникульных событий даже решил впервые за долгое время пойти поучиться, чтобы быть готовым к следующей волне. И в очередной раз напоминает, если хотите знать, куда двинется мир данных, во избежание, так сказать, «трагических ошибок», нужно выйти за его пределы и смотреть, что происходит вокруг.

Ну, и в заключение представляю «дайджест советской прессы» - сборник лучших публикаций на заданную тему:

▪️Топикстартер
▪️Товарищ Архитектор
▪️
Nik в мире данных
▪️Стас, он же « StarRocks»

С уважением, ваш Кэп, который всегда прав.
😁3
В продолжение темы.

Я, вот, хоть и писал ранее в комментариях, что уверенный «мидл» с ИИ заменит «сеньора-архитектора», теперь склоняюсь к тому, что те, кто считает, что «сеньор-архитектор» с ИИ заменит команду «мидл-разработчиков», тоже правы.

«На войне,» - как говорят англичане - «пули летают в обе стороны». В «схватке двух йокодзун» выживет тот, кто первым докажет свою ценность для бизнеса, а итоговый результат сведется, скорее всего, к банальной разнице зарплат. Кто дешевле, тот и останется. А победителем будет «big business», который, как известно благодаря Джону
Лайдону, «is very wise».

Так что, самая правильная стратегия - вовремя выйти из противостояния, «не участвовать в военной игре» (Летов-младший) и смотреть за происходящим с попкорном со стороны.

«За крушением империй лучше всего наблюдать, не выходя из дома.» (Тибор Фишер - «Философы с большой дороги»)