Как растили retention и искали retention-драйвер в продукте iFunny, какие A/B-тесты делали и какие результаты получали, Михаил Табунов

https://www.youtube.com/watch?v=UJkXIqSzlAo

via @ABtesting

кейсы для практической части
https://www.notion.so/analyticsvit/ExperimentFest-a9a6926419794460b5133954ae4c789b


Для решения кейсов используем калькулятор во вкладке «Cases & Practice» https://experimentfest.shinyapps.io/ExperimentFestCalculator/

Друзья, спасибо что были с нами целые выходные! 1) Ссылки на онлайн трансляцию
28 сентября
Cсылка - http://facecast.net/v/qwelw8
Пароль - Hdjwurufbdb
29 сентября
Cсылка - http://facecast.net/v/tijpqu
Пароль - jkhkfhjgjtjkhf

2) Симулятор a/b тестов
https://experimentfest.shinyapps.io/ExperimentFestCalculator/ 3) Домашнее задание - https://www.notion.so/analyticsvit/dc276e42b6f146b7a7beee9a5cbc348f
Форма для отправки домашнего задания - https://forms.gle/CCrsFVG99qgg5xBt5 Мы вам будем очень благодарны, если вы оставите про нас отзыв в FB со сслылкой на интенсив - https://experiment-fest.ru/ab_course Пройдете небольшой опрос, он займет не больше 5ти минут, нам очень важно знать ваше мнение. https://forms.gle/cVpcD7kAtD9ujCmE9

Запись видео про автоматизацию проведения А/Б тестов: https://www.youtube.com/watch?v=r1OXJ4qWXg4

Статья Яндекса про множественные эксперименты: https://habr.com/ru/company/yandex/blog/476826/

Как устроено A/B-тестирование в разных компаниях:

• Stackoverflow - https://stackoverflow.blog/2017/10/17/power-calculations-p-values-ab-testing-stack-overflow/

• Netflix - https://medium.com/netflix-techblog

• Airbnb - https://medium.com/airbnb-engineering/https-medium-com-jonathan-parks-scaling-erf-23fd17c91166

• Uber - https://eng.uber.com/xp/

• Microsoft - https://exp-platform.com/experiments-at-microsoft/

• Avito - https://habr.com/ru/company/avito/blog/454164/

• Yandex - https://habr.com/company/yandex/blog/342704/

via @ProductAnalytics

​​«A/B-тестирование в стартапах или Как делать тесты быстрее»

Сжатое содержание моего доклада с митапа для аналитиков от Wix.

via @BigQuery

Сравнение частотного и байесовского подхода к A/B-тестированию:
https://mobiledevmemo.com/its-time-to-abandon-a-b-testing/

via @ABtesting

Bayesian vs Frequentist A/B Testing – What’s the Difference?
https://cxl.com/blog/bayesian-frequentist-ab-testing/

via @ABtesting

How to Make More Money With Bayesian A/B Test Evaluation:
https://cxl.com/blog/bayesian-ab-test-evaluation/

via @ABtesting

A/B - тесты для нематематиков - Роман Поборчий
https://youtu.be/0mnyLueRY5s?t=42

via @ABtesting

Rapid A/B-testing with Sequential Analysis:
https://www.auduno.com/2014/12/25/rapid-a-b-testing-with-sequential-analysis/

via @ABtesting

Статистика для A/B-тестирования, простое руководство для понимания:
https://cxl.com/blog/ab-testing-statistics/

via @ProductAnalytics

25-26 апреля пройдет очередной интерсив по математической статистике и a/b тестам от ExperimentFest.
За два дня на интенсиве будут разобраны такие важные аспекты a/b тестов как:
-методы сокращения дисперсии и увеличение чувствительности метрики - слушатели узнают, как увеличивать чувствительность метрик и проводит свои a/b тесты быстрее
-методы оценки результатов - будут разобраны базовые и продвинутые методы оценки результатов a/b тестов
-как бороться с проблемой подглядывания и как в этом помогает статистика
-как определять минимальный объем выборки
-как в a/b тестах оценивать разные метрики - от CTR до ARPPU
-практическая часть с реальными рейсами
Все знания закрепляются на доступным тренажерах, а все участники по итогу интенсивна получат гайдуки анализа a/b тестов для применения в своей работе
Скидки 5 000 рублей на оффлайн часть по промокоду «cuped»
https://www.experiment-fest.ru/ab_course

Подборка материалов по математической статистике и экспериментам:
https://medium.com/statistics-experiments/материалы-по-математической-статистике-и-экспериментам-1-0-d065751b07c6

via @ABtesting

Старое доброе и очень эффективное A/B тестирование.
История из наших рабочих будней: Райффайзенбанк в 2,2 раза увеличил онлайн-продажи с помощью Google Optimize.

Читать дальше ⬇️
https://www.owox.com/c/4ir

Данила Леньков из Avito о том, как проходит АБ-тестирование в Avito:

https://www.youtube.com/watch?v=9UGyCOvQ7Z4

via @ABtesting

Подборка материалов по AB-тестированию:
https://cxl.com/blog/ab-testing-guide/

via @ABtesting

A/B тестирования

Я не рекомендую вводить изменения на сайтах без A/B тестирований. Вам может казаться, что какое-то изменение точно улучшит нужные метрики, но часто случается обратное. И за счет A/B можно тестировать изменения направленные не только на повышение конверсии в заказ. Пример:

На моем сайте trustland.ru я тестировал, как повысить вовлеченность посетителей на страницах с отзывами. В ходе тестов я выявил, как надо переработать боковой блок этих страниц, и что он должен быть слева, а не справа. Благодаря этим изменениям, примерно в 2 раза больше людей, которые заходят прочитать отзывы, начали заходить и на другие страницы сайта. Т.к. улучшились поведенческие факторы, позиции в поисковиках этих страниц начали расти.

К примеру, по запросам популярных онлайн школ: “geekbrains отзывы”, “skillbox отзывы”, “skillfactory отзывы”, сайт в Google стал занимать первое место и обходить более известные порталы.

Несколько полезных материалов по A/B:
1. Зачем и как проводить A/B тесты. Основные инструменты проведения.
2. Про анализ и статистическую значимость A/B тестов
3. Видео о том, как оценивать результаты A/B тестов нематематикам
4. Как устроено A/B тестирование в Avito и как в Яндексе
5. Видео от Академии Яндекса: 5 хаков для ускорения A/B тестирования

Статья, в которой автор Fareed Mosavat (ex. Dir of Product в Slack) рассказывает о разнице между хорошими и плохими тестами:

https://www.reforge.com/blog/good-experiment-bad-experiment

via @ABtesting

Advanced A/B Testing Panel with Top Experts [Video]
https://cxl.com/blog/advanced-testing-panel-with-top-experts-video/

via @ABtesting