Forwarded from Vit Cheremisinov
Друзья, спасибо что были с нами целые выходные! 1) Ссылки на онлайн трансляцию
28 сентября
Cсылка - http://facecast.net/v/qwelw8
Пароль - Hdjwurufbdb
29 сентября
Cсылка - http://facecast.net/v/tijpqu
Пароль - jkhkfhjgjtjkhf
2) Симулятор a/b тестов
https://experimentfest.shinyapps.io/ExperimentFestCalculator/ 3) Домашнее задание - https://www.notion.so/analyticsvit/dc276e42b6f146b7a7beee9a5cbc348f
Форма для отправки домашнего задания - https://forms.gle/CCrsFVG99qgg5xBt5 Мы вам будем очень благодарны, если вы оставите про нас отзыв в FB со сслылкой на интенсив - https://experiment-fest.ru/ab_course Пройдете небольшой опрос, он займет не больше 5ти минут, нам очень важно знать ваше мнение. https://forms.gle/cVpcD7kAtD9ujCmE9
28 сентября
Cсылка - http://facecast.net/v/qwelw8
Пароль - Hdjwurufbdb
29 сентября
Cсылка - http://facecast.net/v/tijpqu
Пароль - jkhkfhjgjtjkhf
2) Симулятор a/b тестов
https://experimentfest.shinyapps.io/ExperimentFestCalculator/ 3) Домашнее задание - https://www.notion.so/analyticsvit/dc276e42b6f146b7a7beee9a5cbc348f
Форма для отправки домашнего задания - https://forms.gle/CCrsFVG99qgg5xBt5 Мы вам будем очень благодарны, если вы оставите про нас отзыв в FB со сслылкой на интенсив - https://experiment-fest.ru/ab_course Пройдете небольшой опрос, он займет не больше 5ти минут, нам очень важно знать ваше мнение. https://forms.gle/cVpcD7kAtD9ujCmE9
v+i=data monsters on Notion
Домашнее задание
Задание 1
Запись видео про автоматизацию проведения А/Б тестов: https://www.youtube.com/watch?v=r1OXJ4qWXg4
YouTube
Прямая трансляция пользователя MFMeetUp
Enjoy the videos and music you love, upload original content, and share it all with friends, family, and the world on YouTube.
Статья Яндекса про множественные эксперименты: https://habr.com/ru/company/yandex/blog/476826/
Хабр
Множественные эксперименты: теория и практика
В современном мире сложно представить развитие продукта без A/B-тестирования. Чтобы успешно запустить продукт или новую функциональность — надо грамотно спроектировать A/B, рассчитать и...
Forwarded from Product Analytics
Как устроено A/B-тестирование в разных компаниях:
• Stackoverflow - https://stackoverflow.blog/2017/10/17/power-calculations-p-values-ab-testing-stack-overflow/
• Netflix - https://medium.com/netflix-techblog
• Airbnb - https://medium.com/airbnb-engineering/https-medium-com-jonathan-parks-scaling-erf-23fd17c91166
• Uber - https://eng.uber.com/xp/
• Microsoft - https://exp-platform.com/experiments-at-microsoft/
• Avito - https://habr.com/ru/company/avito/blog/454164/
• Yandex - https://habr.com/company/yandex/blog/342704/
via @ProductAnalytics
• Stackoverflow - https://stackoverflow.blog/2017/10/17/power-calculations-p-values-ab-testing-stack-overflow/
• Netflix - https://medium.com/netflix-techblog
• Airbnb - https://medium.com/airbnb-engineering/https-medium-com-jonathan-parks-scaling-erf-23fd17c91166
• Uber - https://eng.uber.com/xp/
• Microsoft - https://exp-platform.com/experiments-at-microsoft/
• Avito - https://habr.com/ru/company/avito/blog/454164/
• Yandex - https://habr.com/company/yandex/blog/342704/
via @ProductAnalytics
Stack Overflow Blog
From Power Calculations to P-Values: A/B Testing at Stack Overflow
If you hang out on Meta Stack Overflow, you may have noticed news from time to time about A/B tests of various features here at Stack Overflow. We use A/B testing to compare a new version to a baseline for a design, a machine learning model, or practically…
Forwarded from BigQuery Insights
«A/B-тестирование в стартапах или Как делать тесты быстрее»
Сжатое содержание моего доклада с митапа для аналитиков от Wix.
via @BigQuery
Сжатое содержание моего доклада с митапа для аналитиков от Wix.
via @BigQuery
Forwarded from A/B testing
Сравнение частотного и байесовского подхода к A/B-тестированию:
https://mobiledevmemo.com/its-time-to-abandon-a-b-testing/
via @ABtesting
https://mobiledevmemo.com/its-time-to-abandon-a-b-testing/
via @ABtesting
Mobile Dev Memo by Eric Seufert
It's time to re-think A/B testing | Mobile Dev Memo by Eric Seufert
It's time to re-think A/B testing. Mobile marketing and advertising, freemium monetization strategy, and marketing science. Mobile Dev Memo.
Forwarded from A/B testing
Bayesian vs Frequentist A/B Testing – What’s the Difference?
https://cxl.com/blog/bayesian-frequentist-ab-testing/
via @ABtesting
https://cxl.com/blog/bayesian-frequentist-ab-testing/
via @ABtesting
CXL
Bayesian vs. Frequentist A/B Testing: What's the Difference?
It's a debate that dates back a few centuries, though modernized for the world of optimization: Bayesian vs Frequentist a/b testing. Does it matter?
Forwarded from A/B testing
How to Make More Money With Bayesian A/B Test Evaluation:
https://cxl.com/blog/bayesian-ab-test-evaluation/
via @ABtesting
https://cxl.com/blog/bayesian-ab-test-evaluation/
via @ABtesting
CXL
Bayesian vs. Frequentist A/B Testing: What's the Difference?
It's a debate that dates back a few centuries, though modernized for the world of optimization: Bayesian vs Frequentist a/b testing. Does it matter?
Forwarded from A/B testing
YouTube
A/B - тесты для нематематиков - Роман Поборчий
А/Б тестирование для нематематиков - Роман Поборчий.
В докладе рассматриваются методы грамотного оценивания результатов a/b - тестирования, говорится о типичных поломках системы экспериментов и возможности их избегать. Особое внимание уделяется вопросу…
В докладе рассматриваются методы грамотного оценивания результатов a/b - тестирования, говорится о типичных поломках системы экспериментов и возможности их избегать. Особое внимание уделяется вопросу…
Forwarded from A/B testing
Rapid A/B-testing with Sequential Analysis:
https://www.auduno.com/2014/12/25/rapid-a-b-testing-with-sequential-analysis/
via @ABtesting
https://www.auduno.com/2014/12/25/rapid-a-b-testing-with-sequential-analysis/
via @ABtesting
Audun M Øygard
Rapid A/B-testing with Sequential Analysis
A common issue with classical A/B-tests, especially when you want to be able to detect small differences, is that the sample size needed can be prohibitively large. In many cases it can take several w
Forwarded from Product Analytics
Статистика для A/B-тестирования, простое руководство для понимания:
https://cxl.com/blog/ab-testing-statistics/
via @ProductAnalytics
https://cxl.com/blog/ab-testing-statistics/
via @ProductAnalytics
CXL
A/B Testing Statistics: An Easy-to-Understand Guide
A/B testing statistics are easier to master than you think. Rely on the expertise of the best-known practitioners to run tests right.
Forwarded from A/B testing
25-26 апреля пройдет очередной интерсив по математической статистике и a/b тестам от ExperimentFest.
За два дня на интенсиве будут разобраны такие важные аспекты a/b тестов как:
-методы сокращения дисперсии и увеличение чувствительности метрики - слушатели узнают, как увеличивать чувствительность метрик и проводит свои a/b тесты быстрее
-методы оценки результатов - будут разобраны базовые и продвинутые методы оценки результатов a/b тестов
-как бороться с проблемой подглядывания и как в этом помогает статистика
-как определять минимальный объем выборки
-как в a/b тестах оценивать разные метрики - от CTR до ARPPU
-практическая часть с реальными рейсами
Все знания закрепляются на доступным тренажерах, а все участники по итогу интенсивна получат гайдуки анализа a/b тестов для применения в своей работе
Скидки 5 000 рублей на оффлайн часть по промокоду «cuped»
https://www.experiment-fest.ru/ab_course
За два дня на интенсиве будут разобраны такие важные аспекты a/b тестов как:
-методы сокращения дисперсии и увеличение чувствительности метрики - слушатели узнают, как увеличивать чувствительность метрик и проводит свои a/b тесты быстрее
-методы оценки результатов - будут разобраны базовые и продвинутые методы оценки результатов a/b тестов
-как бороться с проблемой подглядывания и как в этом помогает статистика
-как определять минимальный объем выборки
-как в a/b тестах оценивать разные метрики - от CTR до ARPPU
-практическая часть с реальными рейсами
Все знания закрепляются на доступным тренажерах, а все участники по итогу интенсивна получат гайдуки анализа a/b тестов для применения в своей работе
Скидки 5 000 рублей на оффлайн часть по промокоду «cuped»
https://www.experiment-fest.ru/ab_course
Forwarded from A/B testing
Подборка материалов по математической статистике и экспериментам:
https://medium.com/statistics-experiments/материалы-по-математической-статистике-и-экспериментам-1-0-d065751b07c6
via @ABtesting
https://medium.com/statistics-experiments/материалы-по-математической-статистике-и-экспериментам-1-0-d065751b07c6
via @ABtesting
Medium
Материалы по математической статистике и экспериментам 1.0
Нас часто спрашивают, что мы советуем почитать, посмотреть и изучить для большего погружения в тему математической статистики и…
Forwarded from Маркетинг-аналитика с OWOX BI
Старое доброе и очень эффективное A/B тестирование.
История из наших рабочих будней: Райффайзенбанк в 2,2 раза увеличил онлайн-продажи с помощью Google Optimize.
Читать дальше ⬇️
https://www.owox.com/c/4ir
История из наших рабочих будней: Райффайзенбанк в 2,2 раза увеличил онлайн-продажи с помощью Google Optimize.
Читать дальше ⬇️
https://www.owox.com/c/4ir
owox
Transform your data into actionable insights with OWOX BI
Find your growth areas and achieve marketing goals faster with high-quality forecasts and useful insights from OWOX BI.
Forwarded from A/B testing
Данила Леньков из Avito о том, как проходит АБ-тестирование в Avito:
https://www.youtube.com/watch?v=9UGyCOvQ7Z4
via @ABtesting
https://www.youtube.com/watch?v=9UGyCOvQ7Z4
via @ABtesting
YouTube
A/B Experementation Platform. Данила Леньков, Avito
В этом докладе Данила Леньков рассказывает как устроено A/B тестирование в Avito:
— Зачем нужна платформа A/B
— Об экспериментах в Avito: полный цикл эксперимента, управление экспериментом, сплит трафика, админка, сбор метрик, виды метрик, витрина наблюдений…
— Зачем нужна платформа A/B
— Об экспериментах в Avito: полный цикл эксперимента, управление экспериментом, сплит трафика, админка, сбор метрик, виды метрик, витрина наблюдений…
Forwarded from Sergei Morozov (Сергей Морозов)
A/B тестирования
Я не рекомендую вводить изменения на сайтах без A/B тестирований. Вам может казаться, что какое-то изменение точно улучшит нужные метрики, но часто случается обратное. И за счет A/B можно тестировать изменения направленные не только на повышение конверсии в заказ. Пример:
На моем сайте trustland.ru я тестировал, как повысить вовлеченность посетителей на страницах с отзывами. В ходе тестов я выявил, как надо переработать боковой блок этих страниц, и что он должен быть слева, а не справа. Благодаря этим изменениям, примерно в 2 раза больше людей, которые заходят прочитать отзывы, начали заходить и на другие страницы сайта. Т.к. улучшились поведенческие факторы, позиции в поисковиках этих страниц начали расти.
К примеру, по запросам популярных онлайн школ: “geekbrains отзывы”, “skillbox отзывы”, “skillfactory отзывы”, сайт в Google стал занимать первое место и обходить более известные порталы.
Несколько полезных материалов по A/B:
1. Зачем и как проводить A/B тесты. Основные инструменты проведения.
2. Про анализ и статистическую значимость A/B тестов
3. Видео о том, как оценивать результаты A/B тестов нематематикам
4. Как устроено A/B тестирование в Avito и как в Яндексе
5. Видео от Академии Яндекса: 5 хаков для ускорения A/B тестирования
Я не рекомендую вводить изменения на сайтах без A/B тестирований. Вам может казаться, что какое-то изменение точно улучшит нужные метрики, но часто случается обратное. И за счет A/B можно тестировать изменения направленные не только на повышение конверсии в заказ. Пример:
На моем сайте trustland.ru я тестировал, как повысить вовлеченность посетителей на страницах с отзывами. В ходе тестов я выявил, как надо переработать боковой блок этих страниц, и что он должен быть слева, а не справа. Благодаря этим изменениям, примерно в 2 раза больше людей, которые заходят прочитать отзывы, начали заходить и на другие страницы сайта. Т.к. улучшились поведенческие факторы, позиции в поисковиках этих страниц начали расти.
К примеру, по запросам популярных онлайн школ: “geekbrains отзывы”, “skillbox отзывы”, “skillfactory отзывы”, сайт в Google стал занимать первое место и обходить более известные порталы.
Несколько полезных материалов по A/B:
1. Зачем и как проводить A/B тесты. Основные инструменты проведения.
2. Про анализ и статистическую значимость A/B тестов
3. Видео о том, как оценивать результаты A/B тестов нематематикам
4. Как устроено A/B тестирование в Avito и как в Яндексе
5. Видео от Академии Яндекса: 5 хаков для ускорения A/B тестирования
Forwarded from A/B testing
Статья, в которой автор Fareed Mosavat (ex. Dir of Product в Slack) рассказывает о разнице между хорошими и плохими тестами:
https://www.reforge.com/blog/good-experiment-bad-experiment
via @ABtesting
https://www.reforge.com/blog/good-experiment-bad-experiment
via @ABtesting
Reforge
The Importance of Product Trial: Good vs Bad Experiments — Reforge
Fareed Mosavat outlines the 12 lessons he has learned about what sets Good Experiments apart from Bad Experiments.
Forwarded from A/B testing
Advanced A/B Testing Panel with Top Experts [Video]
https://cxl.com/blog/advanced-testing-panel-with-top-experts-video/
via @ABtesting
https://cxl.com/blog/advanced-testing-panel-with-top-experts-video/
via @ABtesting
CXL
Advanced A/B Testing Panel with Top Experts [Video]
At CXL Live 2015 we had an amazing a/b split testing panel featuring statistics and testing gurus Lukas Vermeer from Booking.com, Matt Gershoff from
Forwarded from A/B testing
10 статистических ловушек в А/Б тестировании:
https://cxl.com/blog/testing-statistics-mistakes/
via @ABtesting
https://cxl.com/blog/testing-statistics-mistakes/
via @ABtesting
CXL
10 Statistics Mistakes and Traps in A/B Testing: The Guide for Optimizers
Learn the 10 most important statistical traps to avoid when doing A/B testing if you want to have statistically significant results.
Forwarded from A/B testing
Появились видеозаписи с Experiment Fest x Яндекс.Практикум:
https://www.youtube.com/watch?v=KvIJ8FCJzr4&list=PL6Wui14DvQPz-s7nng8Sedzj1Q5xLOs69&index=1
via @ABtesting
https://www.youtube.com/watch?v=KvIJ8FCJzr4&list=PL6Wui14DvQPz-s7nng8Sedzj1Q5xLOs69&index=1
via @ABtesting
YouTube
001. Методы сокращения дисперсии, и зачем это нужно — Анатолий Карпов
Доклад с совместного митапа Expfest x Яндекс.Практикум. Про эксперименты