За последние 2,5 года Booking.com прошел через 3 поколения приватных облаков. Первое было построено на Mesos и Marathon. В активной фазе оно просуществовало около полугода. Решили отказаться. Второе - на OpenShift. Отказались через год. Сейчас Booking работает на чистом Kubernetes.
Иван Круглов в докладе на HighLoad++ рассказал про внедрение и проблемы всех трех платформ, про почти полную замену инфраструктуры и внедрение контейнеризованных приложений. Основные мысли и ключевые моменты в конспект доклада от Ника Волынкина. https://github.com/NickVolynkin/highload-2018/blob/master/1.2-per-aspera-ad-paas.md
Иван Круглов в докладе на HighLoad++ рассказал про внедрение и проблемы всех трех платформ, про почти полную замену инфраструктуры и внедрение контейнеризованных приложений. Основные мысли и ключевые моменты в конспект доклада от Ника Волынкина. https://github.com/NickVolynkin/highload-2018/blob/master/1.2-per-aspera-ad-paas.md
Три года назад на Highload++ Александр Крашенинников рассказывал как в Badoo построили масштабируемую систему near-realtime обработки событий. С тех пор она эволюционировала, выросли объёмы и решены задачи масштабирования и отказоустойчивости. В определённый момент в Badoo достигли точки, когда потребовались радикальные меры — смена технологического стека на связку Spark + Hadoop на ClickHouse, что в три раза сэкономило железо и увеличило нагрузку с 300 000 событий в секунду до 1 600 000 в пике. В ноябре на Highload++ Александр рассказал о этом в своем докладе, а Ник Волынкин описал кратко в своем конспекте.
https://github.com/NickVolynkin/highload-2018/blob/master/1.6-accelerate-events.md
https://github.com/NickVolynkin/highload-2018/blob/master/1.6-accelerate-events.md
Есть мнение, что больше данных, чем X5, в SAP ERP и SAP BW в России не обрабатывает никто.
Поэтому очень интересно узнать об их опыте борьбы за производительность. Сделать это можно было на конференции, а теперь и статья вышла, в комментариях можно позадавать вопросы.
https://habr.com/company/X5RetailGroup/blog/432412/
Поэтому очень интересно узнать об их опыте борьбы за производительность. Сделать это можно было на конференции, а теперь и статья вышла, в комментариях можно позадавать вопросы.
https://habr.com/company/X5RetailGroup/blog/432412/
Habr
Highload++: Как помочь ERP-системе справиться с 500 000 запросов в секунду
Мы в X5 обрабатываем много данных в ERP-системе. Есть мнение, что больше нас в SAP ERP и SAP BW в России не обрабатывает никто. Но есть еще один момент – число операций и нагрузка на эту систему...
Если вы контрибьютили свою альтернативную реализацию хэширования в Cassandra, то сегодняшняя новость не для вас :(
Но если хайлоад уже почти захлестнул, а системных знаний не хватает, то вам стоит прочитать эту статью про шардинг. Будем думать, что хуже – шардить или на шардить, и главное, когда что выбрать.
https://habr.com/company/oleg-bunin/blog/433370/
Но если хайлоад уже почти захлестнул, а системных знаний не хватает, то вам стоит прочитать эту статью про шардинг. Будем думать, что хуже – шардить или на шардить, и главное, когда что выбрать.
https://habr.com/company/oleg-bunin/blog/433370/
Хабр
Теория шардирования
Кажется, мы так глубоко погрузились в дебри highload-разработки, что просто не задумываемся о базовых проблемах. Взять, например, шардирование. Чего в нем разбир...
В ВК зарегистрировано полмиллиарда пользователей, а среднесуточная аудитория около 100 млн. Чтобы держать такую нагрузку нужна крепкая архитектура и десятки тысяч серверов. Как организовано взаимодействие между ними, как происходит мониторинг и как решают проблему постоянно ломающихся серверов рассказал Алексей Акулович на HighLoad++ в докладе FAQ по архитектуре и работе ВКонтакте, а Ник Волынкин аккуратно записал в конспект.
https://github.com/NickVolynkin/highload-2018/blob/master/2.1-vk-architecture.md
https://github.com/NickVolynkin/highload-2018/blob/master/2.1-vk-architecture.md
А вы знаете, что прием заявок на Saint HighLoad++, которая пройдет 8-9 апреля в Питере, уже идет полным ходом?
В помощь начинающим спикерам наш коуч Роман Поборчий выпустил заметку о работе программного комитета, которая будет полезна всем, кто выступает или только планирует выступить на большой профессиональной конференции.
https://habr.com/company/oleg-bunin/blog/431768/
В помощь начинающим спикерам наш коуч Роман Поборчий выпустил заметку о работе программного комитета, которая будет полезна всем, кто выступает или только планирует выступить на большой профессиональной конференции.
https://habr.com/company/oleg-bunin/blog/431768/
Хабр
Я так хотел попасть в программный комитет конференции, и вот я здесь, и что мы будем делать?
На разных конференциях обязанности участников программного комитета отличаются. Бывает так, что «программный комитет» и «организаторы» — в точности одни и те ж...
HighLoad мишка пошел на следующий круг!
Открыты продажи билетов на HighLoad++ Siberia, которая состоится 24-25 июня в Новосибирске, — минимальная цена продержится до 15 января. Подробности на сайте https://www.highload.ru/siberia/2019
Открыты продажи билетов на HighLoad++ Siberia, которая состоится 24-25 июня в Новосибирске, — минимальная цена продержится до 15 января. Подробности на сайте https://www.highload.ru/siberia/2019
highload.ru
Конференция разработчиков высоконагруженных систем HighLoad++ в Сибири 2019
На HighLoad++ всегда есть секция по DevOps, и в Санкт-Петербурге будет.
А пока статья про Ansible и механизм непрерывной поставки ролей https://habr.com/company/oleg-bunin/blog/431542/
А пока статья про Ansible и механизм непрерывной поставки ролей https://habr.com/company/oleg-bunin/blog/431542/
Хабр
Эффективная разработка и сопровождение Ansible-ролей
Ansible — система, которая решает различные задачи автоматизации, включая конфигурирование, резервное копирование и деплой проектов. Систему приятно использовать...
Отличные новости! Все видео докладов HighLoad++ Siberia теперь в открытом доступе. Вот ссылка на плейлист.
И не забудьте сверить свои планы с расписанием HighLoad++ на этот год: highload.ru
И не забудьте сверить свои планы с расписанием HighLoad++ на этот год: highload.ru
YouTube
HighLoad++ Siberia 2018
г. Новосибирск, 25-26 июня 2018 года highload.ru/siberia/2018
Друзья, важное обновление: выездной обучающий highload-митап по теме "Очередь" в Санкт-Петербурге переносится на 12 февраля!
Мини-план митапа такой:
- Что такое очередь вообще, откуда возник этот паттерн и где и зачем его можно использовать.
- Обзор основных инструментов.
- Примеры использования: межсервисное взаимодействие, обработка больших объектов и т.д.
Знаете, что конкретно должно быть в этих пунктах, или чего в них не хватает, — присоединяйтесь к распространению знаний в массы, заполните заявку или напишите в личку @olegbunin.
Догадываетесь, что все это значит, но хотели бы больше подробностей — именно для этого все и затевается! Регистрируйтесь и приходите, мероприятие бесплатное.
Встречаемся 12 февраля в 19:00 в Санкт-Петербурге на Большом Сампсониевском 60А в офисе DataArt, нашего партнера в этом полезном деле.
Мини-план митапа такой:
- Что такое очередь вообще, откуда возник этот паттерн и где и зачем его можно использовать.
- Обзор основных инструментов.
- Примеры использования: межсервисное взаимодействие, обработка больших объектов и т.д.
Знаете, что конкретно должно быть в этих пунктах, или чего в них не хватает, — присоединяйтесь к распространению знаний в массы, заполните заявку или напишите в личку @olegbunin.
Догадываетесь, что все это значит, но хотели бы больше подробностей — именно для этого все и затевается! Регистрируйтесь и приходите, мероприятие бесплатное.
Встречаемся 12 февраля в 19:00 в Санкт-Петербурге на Большом Сампсониевском 60А в офисе DataArt, нашего партнера в этом полезном деле.
Meetup
Тематические митапы HUG. Митап 3: Очередь. Конвейерная обработка.
вт, 12 февр. 2019 г., 19:00: Регистрация на мероприятие по ссылке: https://conf.ontico.ru/event/join/mhl3.htmlНа третьем обучающем highload-митапе обсудим паттерны проектирования высоконагруженных сис
Статья, которая не нуждается в описании. Просто это Филипп Кулин, и больше него о блокировках интернета в России знает только Роскомнадзор, но это не точно.
https://habr.com/ru/company/oleg-bunin/blog/431188/
https://habr.com/ru/company/oleg-bunin/blog/431188/
Хабр
Технические аспекты блокировки интернета в России. Проблемы и перспективы
Начнем сразу с дисклеймера: ниже принципиально не будет политических вопросов. Административные и юридические вопросы тоже будем обходить настолько, насколько сможем, чтобы полностью не вырывать...
АСУ ТП, ВИУР и ВИУТ, БЩУ, БПУ — знакомые аббревиатуры? Да / нет / не знаю — не важно, статья про высоконагруженную распределенную систему управления современной АЭС сразу и дает обзор, и рассказывает, где в АЭС можно применить модные технологии.
https://habr.com/ru/company/oleg-bunin/blog/439510/
https://habr.com/ru/company/oleg-bunin/blog/439510/
Хабр
Высоконагруженная распределенная система управления современной АЭС
Без электричества не будет высоконагруженных интернет-сервисов, которые мы так любим. Как ни странно, системы управления объектами генерации электричества, например атомными электростанциями, тоже...
Новости про обучающий митап, который состоится в 12 февраля в Санкт-Петербурге, начало в 19:00.
Для участников за пределами северной столицы и тех, кто не успел зарегистрироваться, организуем трансляцию на нашем канале https://www.youtube.com/user/profyclub. Прямую ссылку опубликуем здесь 12 февраля.
В программе:
- О традиционном и не очень применении очередей / Владимир Перепелица (Архитектор Mail.ru Cloud Solutions)
- Очереди и конвейерная обработка в социальной сети / Александр Тоболь (Руководитель разработки платформ видео и ленты проекта «Одноклассники»)
- Вам не нужны очереди / Виталий Левченко (Организатор Go-митапов и Reliability-митапов)
- Использование конвейеров в банке / Александр Календарев (Ведущий программист Альфа Банка)
Подробнее тут: https://www.meetup.com/ru-RU/HighLoad-User-Group/events/256752414/
Для участников за пределами северной столицы и тех, кто не успел зарегистрироваться, организуем трансляцию на нашем канале https://www.youtube.com/user/profyclub. Прямую ссылку опубликуем здесь 12 февраля.
В программе:
- О традиционном и не очень применении очередей / Владимир Перепелица (Архитектор Mail.ru Cloud Solutions)
- Очереди и конвейерная обработка в социальной сети / Александр Тоболь (Руководитель разработки платформ видео и ленты проекта «Одноклассники»)
- Вам не нужны очереди / Виталий Левченко (Организатор Go-митапов и Reliability-митапов)
- Использование конвейеров в банке / Александр Календарев (Ведущий программист Альфа Банка)
Подробнее тут: https://www.meetup.com/ru-RU/HighLoad-User-Group/events/256752414/
Youtube
- YouTube
Enjoy the videos and music you love, upload original content, and share it all with friends, family, and the world on YouTube.
В 2019 году будет три конференции по разработке высоконагруженных систем: в Санкт-Петербурге, Новосибирске и Москве.
Первая из них состоится 8 и 9 апреля в Санкт-Петербурге. Это будет абсолютно новый Highload++, мы готовим программу на 2–3 потока докладов для 600 слушателей, и самое время подать доклад. Крайний срок подачи заявок — 1 марта.
И купить билет по приятной цене тоже нужно успевать — 15 февраля она подрастет.
Первая из них состоится 8 и 9 апреля в Санкт-Петербурге. Это будет абсолютно новый Highload++, мы готовим программу на 2–3 потока докладов для 600 слушателей, и самое время подать доклад. Крайний срок подачи заявок — 1 марта.
И купить билет по приятной цене тоже нужно успевать — 15 февраля она подрастет.
Сегодня в 19:00 по Санкт-Петербургу у нас обучающий митап на тему «Очередь. Конвейерная обработка». Заканчивайте свои дела, устраивайтесь поудобнее и присоединяйтесь к трансляции https://youtu.be/_3nKjCjt2uU
YouTube
Митап 3: Очередь. Конвейерная обработка. Highload User Group.
Приглашаем на конференцию Saint HighLoad++ 2024, которая пройдет 24 и 25 июня в Санкт-Петербурге!
Программа, подробности и билеты по ссылке: https://vk.cc/cuyIqx
--------
--------
Приглашаем на HighLoad++ Foundation — крупнейшую в России профессиональную…
Программа, подробности и билеты по ссылке: https://vk.cc/cuyIqx
--------
--------
Приглашаем на HighLoad++ Foundation — крупнейшую в России профессиональную…
Вчера мы примерили HighLoad в Санкт-Петербурге в формате митапа, и нам понравилось!
Теперь с нетерпением ждём настоящий Saint HighLoad++. Хорошо, что он в апреле, то есть скоро. А еще хорошо, что мы договорились с Park Inn Пулковская, и открыли её продажу для участников конференции. Подробности 👇 https://www.highload.ru/spb/2019/news/982
Теперь с нетерпением ждём настоящий Saint HighLoad++. Хорошо, что он в апреле, то есть скоро. А еще хорошо, что мы договорились с Park Inn Пулковская, и открыли её продажу для участников конференции. Подробности 👇 https://www.highload.ru/spb/2019/news/982
www.highload.ru
Saint HighLoad++ 2019 : Информация о гостинице для участников Saint HighLoad++ 2019
Рады предложить вам проживание в номерах отеля Park Inn Пулковская на время конференции Saint HighLoad++ 2019 со скидкой для участников мероприятия.
Разбавим обычный будний день воспоминаниями о том, как же крут был HighLoad++ 2018.
https://youtu.be/-WgcKpUTUmw
https://youtu.be/-WgcKpUTUmw
YouTube
Видеоотчет о HighLoad++ 2018
HighLoad++ 2018, 8-9 ноября, Москва
Профессиональная конференция для разработчиков высоконагруженных систем
http://www.highload.ru/moscow/2018
--------
Нашли ошибку в видео? Пишите нам на support@ontico.ru
Профессиональная конференция для разработчиков высоконагруженных систем
http://www.highload.ru/moscow/2018
--------
Нашли ошибку в видео? Пишите нам на support@ontico.ru
Ловите фото, видео и презентации с недавнего митапа!
Не забудьте отметиться на фотографиях:
https://www.facebook.com/pg/HighLoadConference/photos/?tab=album&album_id=2064052573672196
https://vk.com/album-152308462_260630476
Дать ссылку на видео и презентации начинающим и не только highload-разработчикам:
https://www.dropbox.com/sh/pll4pkkg9cebmze/AABpGesgZ9h-bpvPCJfLxeTra?dl=0
Запись на том же месте, что и была трансляция: https://youtu.be/_3nKjCjt2uU
Не забудьте отметиться на фотографиях:
https://www.facebook.com/pg/HighLoadConference/photos/?tab=album&album_id=2064052573672196
https://vk.com/album-152308462_260630476
Дать ссылку на видео и презентации начинающим и не только highload-разработчикам:
https://www.dropbox.com/sh/pll4pkkg9cebmze/AABpGesgZ9h-bpvPCJfLxeTra?dl=0
Запись на том же месте, что и была трансляция: https://youtu.be/_3nKjCjt2uU
А ближе к пятничному вечеру предлагаем порассуждать о БД в ☁️ . В отличной компании Николая Самохвалова и DBA Data Egret попробуем решить, стоит ли всем подряд переходить в публичное облако или же лучше создать приватное — на Docker с Kubernetes.
https://habr.com/ru/company/oleg-bunin/blog/440332/
И не забывайте, что до конца Call for Papers на Saint HighLoad++ осталось две недели. В выходные как раз можно закинуть заявку 👌
https://habr.com/ru/company/oleg-bunin/blog/440332/
И не забывайте, что до конца Call for Papers на Saint HighLoad++ осталось две недели. В выходные как раз можно закинуть заявку 👌
Хабр
БД в облаках: кому и зачем — мнение специалистов Data Egret
Есть мнение, что будущее за DB as Service. Стоит ли всем подряд увольнять DBA и переходить в публичное облако или стремиться создать приватное облако на Docker с Kubernetes? Трое экспертов из Data...
Forwarded from Oleg Bunin
Друзья, работа ПК HighLoad++ в Питере в самом разгаре.
8 и 9 апреля конференция. Важный момент - это будет не филиал, не копия большого HighLoad++. Это будет совершенно самостоятельное мероприятие, новые доклады. Тематика, конечно, та же самая, но доклады не повторяются.
Если вы планировали подать доклад - то самое время!
Детали:
https://www.highload.ru/spb/2019
Подача докладов до 1 марта.
8 и 9 апреля конференция. Важный момент - это будет не филиал, не копия большого HighLoad++. Это будет совершенно самостоятельное мероприятие, новые доклады. Тематика, конечно, та же самая, но доклады не повторяются.
Если вы планировали подать доклад - то самое время!
Детали:
https://www.highload.ru/spb/2019
Подача докладов до 1 марта.
Сегодня пятница, и у нас опять статья про облака. Но совсем в другом смысле. Там вода, дым, графика, формулы, Монте-Карло и нейронки.
https://habr.com/ru/company/oleg-bunin/blog/441260/
Так мы предлагаем настроиться на подачу заявки — откладывать-то уже некуда. Не так это и сложно, надо только вписать название да пару абзацев тезисов сюда: https://conf.ontico.ru/lectures/propose/?conference=hl2019-spb
https://habr.com/ru/company/oleg-bunin/blog/441260/
Так мы предлагаем настроиться на подачу заявки — откладывать-то уже некуда. Не так это и сложно, надо только вписать название да пару абзацев тезисов сюда: https://conf.ontico.ru/lectures/propose/?conference=hl2019-spb
Хабр
Как нейронные сети графике помогали
В 1943 году американские нейропсихологи Мак-Каллок и Питтс разработали компьютерную модель нейронной сети, а в 1958 первая работающая однослойная сеть распознавала некоторые буквы. Сейчас же нейросети...