Forwarded from data будни (Саша Михайлов)
Что болит
Общее впечатление что все хотят в data driven. Уже никого не надо убеждать в ценности данных — этот этап пройден.
Теперь следующая проблема — данные собрали, пайплайны настроили, первые дашборды нарисовали. Постепенно данных становится всё больше: добавляются новые, старые — меняются. И в какой-то момент наступает ДАТА-ХАОС!
И вот сейчас основные боли — это документация и описанные модели данных.
⁃ Таблицы на десятки и сотни колонок без описания и странными названиями
⁃ Таблиц по заказам — пять разных вариантов (плюс ещё сколько-то вьюх по ним)
⁃ Эвенты, названные абы как
⁃ Метрики, которые каждый рассчитывает по-своему и в конце ни у кого ничего не сходится ¯\_(ツ)_/¯
Короче, тренд сезона — дата-инфраструктура.
Общее впечатление что все хотят в data driven. Уже никого не надо убеждать в ценности данных — этот этап пройден.
Теперь следующая проблема — данные собрали, пайплайны настроили, первые дашборды нарисовали. Постепенно данных становится всё больше: добавляются новые, старые — меняются. И в какой-то момент наступает ДАТА-ХАОС!
И вот сейчас основные боли — это документация и описанные модели данных.
⁃ Таблицы на десятки и сотни колонок без описания и странными названиями
⁃ Таблиц по заказам — пять разных вариантов (плюс ещё сколько-то вьюх по ним)
⁃ Эвенты, названные абы как
⁃ Метрики, которые каждый рассчитывает по-своему и в конце ни у кого ничего не сходится ¯\_(ツ)_/¯
Короче, тренд сезона — дата-инфраструктура.
👍1
Кажется, к 2021 году всех уже убедили, что эксель - это не база данных.
И тут такое: статья про то, как анализировать с его помощью csv-шку с 10 миллионами строк.
Автору всего-то понадобилась версия посвежее, подключение к файлу без его загрузки на лист, Power Query и слабоумие с отвагой.
Кейс занятный, но что-то внутри меня протестует против такого сценария использования.
🔗Ссылка
#excelное
И тут такое: статья про то, как анализировать с его помощью csv-шку с 10 миллионами строк.
Автору всего-то понадобилась версия посвежее, подключение к файлу без его загрузки на лист, Power Query и слабоумие с отвагой.
Кейс занятный, но что-то внутри меня протестует против такого сценария использования.
🔗Ссылка
#excelное
Энтузиаст проанализировал 30000 вакансий и составил вот такую сеть IT-шных навыков.
В области работы с данными удивляет небольшой размер "шарика" Python и отсутствие популярных библиотек (может, убрали, чтобы не перегружать элементами).
В статье "Building a Network of Related IT-Skills" подробно описывается сбор, очистка и обработка данных.
🔗Ссылка
#проекты
В области работы с данными удивляет небольшой размер "шарика" Python и отсутствие популярных библиотек (может, убрали, чтобы не перегружать элементами).
В статье "Building a Network of Related IT-Skills" подробно описывается сбор, очистка и обработка данных.
🔗Ссылка
#проекты
Когда-то это должно было случиться: теперь можно не только на работе ковыряться в больших данных и ML, но еще и дома делать тоже самое, но в игровой форме.
#проекты
#проекты
Search Data, Trends & Analytics: Catching the Pulse of a Market and its Consumers (no cookies required)
Пример того, как можно реализовать отслеживание трендов на минималках с использованием данных по поисковым запросам.
В полной версии дашборда можно поковыряться самому.
Статья с описанием методологии тут:
🔗Ссылка
#проекты
Пример того, как можно реализовать отслеживание трендов на минималках с использованием данных по поисковым запросам.
В полной версии дашборда можно поковыряться самому.
Статья с описанием методологии тут:
🔗Ссылка
#проекты
В статье "Data Advantage Matrix: A New Way to Think About Data Strategy" нашел интересный взгляд на построение стратегии по работе с данными. Автор предлагает использовать матрицу для оценки верхнеуровневых инициатив.
Всего оценивается 4 вида создаваемых преимуществ:
🔹Операционные;
🔹Стратегические;
🔹Продуктовые;
🔹Бизнесовые.
В рамках каждого можно запускать проекты в одной из 3 стадий проработанности:
🔸Базовый (MVP, low-code);
🔸Средний (инвестиции в платформенные сервисы и дата-команды);
🔸Продвинутый (полный data driven).
В зависимости от сферы деятельности компании, приоритет преимуществ и проектов будет отличаться. На заглавной картинке пример для SaaS-стартапа, в статье есть и другие.
🔗Ссылка
#стратегия
Всего оценивается 4 вида создаваемых преимуществ:
🔹Операционные;
🔹Стратегические;
🔹Продуктовые;
🔹Бизнесовые.
В рамках каждого можно запускать проекты в одной из 3 стадий проработанности:
🔸Базовый (MVP, low-code);
🔸Средний (инвестиции в платформенные сервисы и дата-команды);
🔸Продвинутый (полный data driven).
В зависимости от сферы деятельности компании, приоритет преимуществ и проектов будет отличаться. На заглавной картинке пример для SaaS-стартапа, в статье есть и другие.
🔗Ссылка
#стратегия
Автор статьи "Data Product Trends That Will Rule in 2022" представляет свое видение исследований разных трендвотчеров и организаций про будущее дата-продуктов.
Получилось следующее:
🔹Big Data as a Product - готовые платформы данных для аналитики в любых отраслях бизнеса;
🔹Рост качества пользовательского опыта не только внутри продукта, но и в целом при работе с поставщиком;
🔹Решения для безопасного обмена данными между компаниями по всему миру;
🔹Больше экспериментов и симуляций на реальных, а не тестовых данных;
🔹Качественные результаты работы ML-моделей на небольших объемах данных, в том числе на edge-устройствах;
🔹Управление данными и обеспечение их безопасности все чаще будет встроено в дата-продукты "по-умолчанию";
🔹"Diversified Data Centric Mindset" - обеспечение равного доступа к своему сервису для людей разных национальностей, владеющих разными языками и вот это вот все;
🔹ИИ будет все более приближаться к возможностям естественного интеллекта (штош, посмотрим).
Во все, кроме последних 2 пунктов, можно даже поверить.
🔸Diversity-штуки, кажется, до нас еще просто не успеют в таком объеме добраться к следующему году.
🔸Artificial general intelligence - это вообще более долгосрочная история, не стал бы сейчас на ней спекулировать.
🔗Ссылка
#продукты #тренды
Получилось следующее:
🔹Big Data as a Product - готовые платформы данных для аналитики в любых отраслях бизнеса;
🔹Рост качества пользовательского опыта не только внутри продукта, но и в целом при работе с поставщиком;
🔹Решения для безопасного обмена данными между компаниями по всему миру;
🔹Больше экспериментов и симуляций на реальных, а не тестовых данных;
🔹Качественные результаты работы ML-моделей на небольших объемах данных, в том числе на edge-устройствах;
🔹Управление данными и обеспечение их безопасности все чаще будет встроено в дата-продукты "по-умолчанию";
🔹"Diversified Data Centric Mindset" - обеспечение равного доступа к своему сервису для людей разных национальностей, владеющих разными языками и вот это вот все;
🔹ИИ будет все более приближаться к возможностям естественного интеллекта (штош, посмотрим).
Во все, кроме последних 2 пунктов, можно даже поверить.
🔸Diversity-штуки, кажется, до нас еще просто не успеют в таком объеме добраться к следующему году.
🔸Artificial general intelligence - это вообще более долгосрочная история, не стал бы сейчас на ней спекулировать.
🔗Ссылка
#продукты #тренды
Описание Data Lineage в стиле "для самых маленьких".
Самому "наследию" дана ёмкая аналогия: "Data lineage is like a family tree but for data".
Есть проработанные описания основных сценариев применения с иллюстрациями:
🔹диагностика ошибок;
🔹анализ того, на что повлияют вносимые изменения;
🔹проверка качества данных;
🔹управление метаданными;
🔹проверка на соответствие нормам законодательства;
🔹очистка данных или их миграция.
🔗Ссылка
#инструменты #тренды
Самому "наследию" дана ёмкая аналогия: "Data lineage is like a family tree but for data".
Есть проработанные описания основных сценариев применения с иллюстрациями:
🔹диагностика ошибок;
🔹анализ того, на что повлияют вносимые изменения;
🔹проверка качества данных;
🔹управление метаданными;
🔹проверка на соответствие нормам законодательства;
🔹очистка данных или их миграция.
🔗Ссылка
#инструменты #тренды
Рома снова сделал годноту: готовую матрицу компетенций BI-аналитика. Очень злободневно с учетом того, что пора бы уже заниматься планом индивидуального развития на следующий год.
#компетенции
#компетенции
Forwarded from Reveal the Data
🧑🎓 Матрица компетенций BI-аналитика
Сделал матрицу компетенций, она родилась за год большой работы по менторству BI-аналитиков и «сериала» с Русланом. С радостью и гордостью хочу поделиться ей с комьюнити. Получилось круто.
Матрица будет полезна и новичкам — есть подсветка проседающих навыков и ссылки на учебные материалы. И компаниям — для составления планов развития сотрудников.
Необходимо оценить себя по 68 навыкам из 6 направлений, которые важны BI-аналитику на мой взгляд. Каждый навык имеет уровень «прокачки» от 1 до 4 и описание, с примером ожиданий знаний от уровня. Но это только пример, при сомнениях, оцените навык по ощущениям от «джун» до «лид».
Матрица – не истинна в последней инстанции, а ориентир и быстрый способ оценить себя. В идеале должна заполняться вместе с ментором, кто мог бы валидировать результат и дать практику.
Спасибо большое всем, кто помогал и участвовал в тестировании. Буду рад идеям, ссылкам и примерам результатов в комментариях.
🔗 Ссылка
#избранное
Сделал матрицу компетенций, она родилась за год большой работы по менторству BI-аналитиков и «сериала» с Русланом. С радостью и гордостью хочу поделиться ей с комьюнити. Получилось круто.
Матрица будет полезна и новичкам — есть подсветка проседающих навыков и ссылки на учебные материалы. И компаниям — для составления планов развития сотрудников.
Необходимо оценить себя по 68 навыкам из 6 направлений, которые важны BI-аналитику на мой взгляд. Каждый навык имеет уровень «прокачки» от 1 до 4 и описание, с примером ожиданий знаний от уровня. Но это только пример, при сомнениях, оцените навык по ощущениям от «джун» до «лид».
Матрица – не истинна в последней инстанции, а ориентир и быстрый способ оценить себя. В идеале должна заполняться вместе с ментором, кто мог бы валидировать результат и дать практику.
Спасибо большое всем, кто помогал и участвовал в тестировании. Буду рад идеям, ссылкам и примерам результатов в комментариях.
🔗 Ссылка
#избранное
Отличный пример того, как можно визуализировать структуру обучения или курса с помощью графов - сервис Learney.
Можно выбрать какой-то метод или алгоритм машинного обучения и посмотреть, на каких разделах математики и статистики он основан.
А при желании - еще и поизучать статьи и видео по теме не отходя от кассы.
🔗Ссылка
#учебное #инструменты
Можно выбрать какой-то метод или алгоритм машинного обучения и посмотреть, на каких разделах математики и статистики он основан.
А при желании - еще и поизучать статьи и видео по теме не отходя от кассы.
🔗Ссылка
#учебное #инструменты
В статье "Everything Popular in the 2021 Data Science Landscape" можно найти анализ результатов проведенного в этом году опроса Kaggle Machine Learning & Data Science Survey.
Сами выводы получились интересные, а вот визуализации подкачали, их как-будто делали по "вредным советам": топы с сортировкой по возрастанию (как на заглавном скриншоте), пай-чарты с 10 категориями, божественная столбчатая диаграмма с распределением по странам.
Больше 50 процентов опрошенных - из Индии, США на втором месте, РФ - на 7 (что характерно, между Бразилией и Нигерией). Не удивлюсь, если такое распределение сильно повлияло на применимость результататов к нашей действительности.
Тем не менее, можно посмотреть, например, топ языков программирования (тут без сюрпризов), используемых библиотек, IDE-шек и облачных сервисов.
Ну и, конечно, порадовал самый часто используемый Big Data product - "MySQL". =)
🔗Ссылка
#анализ_рынка #визуализации
Сами выводы получились интересные, а вот визуализации подкачали, их как-будто делали по "вредным советам": топы с сортировкой по возрастанию (как на заглавном скриншоте), пай-чарты с 10 категориями, божественная столбчатая диаграмма с распределением по странам.
Больше 50 процентов опрошенных - из Индии, США на втором месте, РФ - на 7 (что характерно, между Бразилией и Нигерией). Не удивлюсь, если такое распределение сильно повлияло на применимость результататов к нашей действительности.
Тем не менее, можно посмотреть, например, топ языков программирования (тут без сюрпризов), используемых библиотек, IDE-шек и облачных сервисов.
Ну и, конечно, порадовал самый часто используемый Big Data product - "MySQL". =)
🔗Ссылка
#анализ_рынка #визуализации
Обзор итогов года для мира баз данных от Andy Pavlo.
Отметил для себя:
🔹 PostgreSQL в топе;
🔹 Производители баз данных "мочат" друг друга в ходе сравнительных тестов (без ClickHouse не обошлось);
🔹 Куча инвестиций прилетело в дата-стартапы и производитетелей баз данных, "золотой век", говорят.
#базы_данных
Отметил для себя:
🔹 PostgreSQL в топе;
🔹 Производители баз данных "мочат" друг друга в ходе сравнительных тестов (без ClickHouse не обошлось);
🔹 Куча инвестиций прилетело в дата-стартапы и производитетелей баз данных, "золотой век", говорят.
#базы_данных
Все еще со скрипом вкатываюсь в работу после январских праздников.
Пока это происходит, могу предложить немного самостоятельного изучения: 100 интерактивных notebooks на самые разные темы, размещенные на сервисе Observable.
🔗Ссылка на статью (или можно потыкаться в раздел explore прямо на сайте).
#визуализации
Пока это происходит, могу предложить немного самостоятельного изучения: 100 интерактивных notebooks на самые разные темы, размещенные на сервисе Observable.
🔗Ссылка на статью (или можно потыкаться в раздел explore прямо на сайте).
#визуализации
А еще все тот же Оbservable подвел итоги нескольких опросов пользователей о том, что те использовали в работе в прошлом году.
Количество инструментов зашкаливает - их аж 180, на картинке расположены в порядке убывания популярности.
🔗Ссылка
#визуализации #анализ_рынка
Количество инструментов зашкаливает - их аж 180, на картинке расположены в порядке убывания популярности.
🔗Ссылка
#визуализации #анализ_рынка
"Что было в мире искусственного интеллекта в 2021 году" - краткий конспект отчета "State of AI Report 2021" для тех, кому лень самим ковыряться в 188-страничном документе.
Понравились части со сбывшимися, не сбывшимися и актуальными на ближайшие месяцы прогнозами.
🔗Ссылка
#анализ_рынка
Понравились части со сбывшимися, не сбывшимися и актуальными на ближайшие месяцы прогнозами.
🔗Ссылка
#анализ_рынка
Классный пример того, как можно превратить скучный слайд к ежеквартальному отчету в интересно рассказанную историю.
На первый взгляд кажется, что тринадцать слайдов вместо одного (хоть и с 8 буллетами) - перебор.
Но когда видишь своими глазами, какое изменение в архитектуре решения следует из каждого пункта, даже абстрактный список изменений кажется более понятным.
Еще одна важная мысль из статьи: не обязательно иметь реальные данные, чтобы использовать визуализации для лучшего донесения своих мыслей до аудитории.
P.S. картинка тут для привлечения внимания, рекомендую самостоятельно посмотреть по ссылке, как она последовательно рисуется в ходе презентации.
🔗Ссылка
#визуализации #сторителлинг
На первый взгляд кажется, что тринадцать слайдов вместо одного (хоть и с 8 буллетами) - перебор.
Но когда видишь своими глазами, какое изменение в архитектуре решения следует из каждого пункта, даже абстрактный список изменений кажется более понятным.
Еще одна важная мысль из статьи: не обязательно иметь реальные данные, чтобы использовать визуализации для лучшего донесения своих мыслей до аудитории.
P.S. картинка тут для привлечения внимания, рекомендую самостоятельно посмотреть по ссылке, как она последовательно рисуется в ходе презентации.
🔗Ссылка
#визуализации #сторителлинг
👍1
Уже немного касался темы зрелости работы с данными в организациях, например вот тут. Как правило, ее описывают в виде 4-5 этапов, различающихся по степени использования аналитики при принятии решений.
Своя модель "Beginner -> Novice -> Knowledgable -> Literate -> Fluent" представлена и в сегодняшней статье "How do I measure my company’s Data Maturity?".
Авторы, кажется, смогли прикрутить к нему систему оценки внутри каждого из блоков:
🔹Talent & Competences;
🔹Processes & Governance;
🔹Technology.
Удобно, что можно не только почитать, но еще и пройти тест (возможно даже без регистрации и смс).
🔗Ссылка
#компетенции
Своя модель "Beginner -> Novice -> Knowledgable -> Literate -> Fluent" представлена и в сегодняшней статье "How do I measure my company’s Data Maturity?".
Авторы, кажется, смогли прикрутить к нему систему оценки внутри каждого из блоков:
🔹Talent & Competences;
🔹Processes & Governance;
🔹Technology.
Удобно, что можно не только почитать, но еще и пройти тест (возможно даже без регистрации и смс).
🔗Ссылка
#компетенции
Не покидает меня интерес к теме зрелости аналитики. Сегодня это вылилось в акцию "2 статьи по цене одной".
В "The AI Hierarchy of Needs" в очередной раз преизобретают пирамиду Маслоу.
Мысль довольно очевидная: чем меньше размер и качество самого нижнего уровня (сбора данных), тем меньше шансов успешно применять на практике Data Science и AI.
В "Empowering the Data Analyst" поверх этого намазывают задачи специалистов и роли в командах (инженеры, аналитики, дата-саентисты).
Еще тут мы встретим забавную классификацию аналитиков:
🔹те, кто поставляет данные;
🔹те, кто поставляет инсайты.
Автор склоняет всех к переходу из первой категории во вторую или из состояния Data as a Product (DaaP) в Data as a Service (DaaS). В основном, через обеспечение self-service аналитики и развития в команде компетенций "стратегических бизнес партнеров", помогающих принимать решения на основании данных.
P.S. Сам себе удивляюсь, но визуализация в виде пирамиды в обоих местах кажется уместной.
#компетенции
В "The AI Hierarchy of Needs" в очередной раз преизобретают пирамиду Маслоу.
Мысль довольно очевидная: чем меньше размер и качество самого нижнего уровня (сбора данных), тем меньше шансов успешно применять на практике Data Science и AI.
В "Empowering the Data Analyst" поверх этого намазывают задачи специалистов и роли в командах (инженеры, аналитики, дата-саентисты).
Еще тут мы встретим забавную классификацию аналитиков:
🔹те, кто поставляет данные;
🔹те, кто поставляет инсайты.
Автор склоняет всех к переходу из первой категории во вторую или из состояния Data as a Product (DaaP) в Data as a Service (DaaS). В основном, через обеспечение self-service аналитики и развития в команде компетенций "стратегических бизнес партнеров", помогающих принимать решения на основании данных.
P.S. Сам себе удивляюсь, но визуализация в виде пирамиды в обоих местах кажется уместной.
#компетенции