Forwarded from Базы данных
Как мы переехали с Oracle на PostgreSQL в нагруженном сервисе без даунтайма
Всем привет! Я Сергей, работаю в B2B-команде Яндекс Маркета последние 3,5 года. Как уже понятно из заголовка, сейчас я вам расскажу про yet-another-миграцию с базы на базу, которая началась в середине 2021 года и заняла почти год. Получается, мемуары.
Вас ждёт рассказ о том, как мы:
- несколько месяцев чинили тесты и делали трансформер;
- десятки раз переливали данные;
- чинили баги незаметно для пользователей;
- заставили сервис работать на PostgreSQL быстрее, чем он работал на Oracle.
https://habr.com/ru/companies/yandex/articles/801415/
Всем привет! Я Сергей, работаю в B2B-команде Яндекс Маркета последние 3,5 года. Как уже понятно из заголовка, сейчас я вам расскажу про yet-another-миграцию с базы на базу, которая началась в середине 2021 года и заняла почти год. Получается, мемуары.
Вас ждёт рассказ о том, как мы:
- несколько месяцев чинили тесты и делали трансформер;
- десятки раз переливали данные;
- чинили баги незаметно для пользователей;
- заставили сервис работать на PostgreSQL быстрее, чем он работал на Oracle.
https://habr.com/ru/companies/yandex/articles/801415/
Хабр
Как мы переехали с Oracle на PostgreSQL в нагруженном сервисе без даунтайма
График 99-го перцентиля времени ответа основного user-facing-сервиса: жизнь до, в процессе и после переезда. Смотрите, насколько стало лучше! Всем привет! Я Сергей, работаю в B2B-команде Яндекс...
Подключение к службе, запущенной на вашем хосте Docker, из контейнера
https://nickjanetakis.com/blog/connect-to-a-service-running-on-your-docker-host-from-a-container
https://nickjanetakis.com/blog/connect-to-a-service-running-on-your-docker-host-from-a-container
Nick Janetakis
Connect to a Service Running on Your Docker Host from a Container — Nick Janetakis
This could be useful if you want to connect to a database or something else not running in Docker.
Forwarded from Daily Dev Jokes. Юмор.
This media is not supported in your browser
VIEW IN TELEGRAM
Когда меня просят создать пользователя SQL для стажера
Как я делал сеть на 10 гигабит с минимальным бюджетом
Решил я ускорить тривиальную задачу в виде передачи файлов с одного компьютера на маленький домашний NAS. Раньше 10 гигабит были для меня чем-то заоблачным (с учётом цены на свичи, а также сетевые карты). Но благодаря апгрейду дата-центров, а также свежим чипам для свичей от Realtek, апгрейд оказался недорогим и безболезненным.
О выборе железа и тестах — под катом.
https://habr.com/ru/companies/ruvds/articles/798813/
Решил я ускорить тривиальную задачу в виде передачи файлов с одного компьютера на маленький домашний NAS. Раньше 10 гигабит были для меня чем-то заоблачным (с учётом цены на свичи, а также сетевые карты). Но благодаря апгрейду дата-центров, а также свежим чипам для свичей от Realtek, апгрейд оказался недорогим и безболезненным.
О выборе железа и тестах — под катом.
https://habr.com/ru/companies/ruvds/articles/798813/
Хабр
Как я делал сеть на 10 гигабит с минимальным бюджетом
Решил я ускорить тривиальную задачу в виде передачи файлов с одного компьютера на маленький домашний NAS. Раньше 10 гигабит были для меня чем-то заоблачным (с учётом цены на свичи, а также сетевые...
Компоненты среды рабочего стола | Linux
Решил попробовать себя в роли знатока-писателя и освятить для вас такую тему, как “Компоненты среды рабочего стола”, чтобы больше людей, хотя-бы в основе, понимали, что там происходит в системе такого, благодаря чему мы можем, не тыкаясь в консоли, с ней взаимодействовать.
https://habr.com/ru/articles/806611/
Решил попробовать себя в роли знатока-писателя и освятить для вас такую тему, как “Компоненты среды рабочего стола”, чтобы больше людей, хотя-бы в основе, понимали, что там происходит в системе такого, благодаря чему мы можем, не тыкаясь в консоли, с ней взаимодействовать.
https://habr.com/ru/articles/806611/
Хабр
Компоненты среды рабочего стола | Linux
Всех приветствую, читатели Хабра! Решил попробовать себя в роли знатока-писателя и освятить для вас такую тему, как “Компоненты среды рабочего стола”, чтобы больше людей, хотя бы в основе, понимали,...
netshoot: контейнер швейцарской армии для устранения неполадок в сети Docker + Kubernetes
https://github.com/nicolaka/netshoot
https://github.com/nicolaka/netshoot
GitHub
GitHub - nicolaka/netshoot: a Docker + Kubernetes network trouble-shooting swiss-army container
a Docker + Kubernetes network trouble-shooting swiss-army container - nicolaka/netshoot
Как я уронил прод на полтора часа (и при чем тут soft delete и partial index)
В жизни любого разработчика наступает момент, когда он роняет прод. Представьте: полдень, в Skyeng час пик, тысячи запланированных онлайн-уроков, а наша платформа лежит…
Все упало из-за ошибки в процессе деплоя, которая связана с тонкостью PostgreSQL. К сожалению, на этом моменте у нас прокололась не одна команда. И чтобы такое больше не произошло ни у нас, ни в другой компании — велкам под кат.
https://habr.com/ru/companies/skyeng/articles/802191/
В жизни любого разработчика наступает момент, когда он роняет прод. Представьте: полдень, в Skyeng час пик, тысячи запланированных онлайн-уроков, а наша платформа лежит…
Все упало из-за ошибки в процессе деплоя, которая связана с тонкостью PostgreSQL. К сожалению, на этом моменте у нас прокололась не одна команда. И чтобы такое больше не произошло ни у нас, ни в другой компании — велкам под кат.
https://habr.com/ru/companies/skyeng/articles/802191/
Хабр
Как я уронил прод на полтора часа (и при чем тут soft delete и partial index)
Привет! Меня зовут Олег, и я работаю в Skyeng. Мы с командой разрабатываем ядро образовательной платформы, на которой проходят все онлайн‑уроки, решаются домашки, экзамены и...
Как мне удалось обнаружить уязвимость, связанную со слабыми ключами в Debian
https://habr.com/ru/companies/bothub/articles/806377/
https://habr.com/ru/companies/bothub/articles/806377/
Хабр
Как мне удалось обнаружить уязвимость, связанную со слабыми ключами в Debian
Для новичков в сфере информационных технологий может быть открытием , что в следующем месяце мы отметим 16-ю годовщину одного знаменательного события: было выявлено, что в течение 18 месяцев пакет...
Яндекс открыл регистрацию в КИТ — Школу SRE и DevOps в Москве
Школа приглашает студентов и начинающих специалистов пройти программу в очном формате в московском офисе компании.
Вас ждут:
— лекции и практические занятия по Linux, базам данных и многое другое
— работа над задачами с профессионалами из команды Яндекса
— возможность получить оффер в Яндексе по итогам обучения
— оплата проезда и проживания в Москве для иногородних учеников
Какие навыки требуются?
— базовые навыки траблшутинга и работы в консоли Linux
— опыт программирования и автоматизации на Python и Bash
— представление о работе веб-сервисов и сетевых протоколов
— знание Linux и командной строки
Заполняйте форму регистрации и решайте тестовое задание.
Школа приглашает студентов и начинающих специалистов пройти программу в очном формате в московском офисе компании.
Вас ждут:
— лекции и практические занятия по Linux, базам данных и многое другое
— работа над задачами с профессионалами из команды Яндекса
— возможность получить оффер в Яндексе по итогам обучения
— оплата проезда и проживания в Москве для иногородних учеников
Какие навыки требуются?
— базовые навыки траблшутинга и работы в консоли Linux
— опыт программирования и автоматизации на Python и Bash
— представление о работе веб-сервисов и сетевых протоколов
— знание Linux и командной строки
Заполняйте форму регистрации и решайте тестовое задание.
Шпаргалка по командам Linux: 100 основных команд для системного администрирования и разработки
https://blog.stackademic.com/linux-command-cheat-sheet-100-essential-commands-for-system-administration-and-development-7de3cd8013f5
https://blog.stackademic.com/linux-command-cheat-sheet-100-essential-commands-for-system-administration-and-development-7de3cd8013f5
Medium
Linux Command Cheat Sheet: 100 Essential Commands for System Administration and Development
In the world of computing, Linux commands serve as the backbone for various tasks ranging from system administration to software…
Как в 14 лет я стал сисадмином
Привет, читатель! Это моя первая статья на Хабре. Прошу строго не судить.
Хочу рассказать свою историю. Меня зовут Марк, мне 14 (2009г). В свои 14 я зарабатываю сам и занимаюсь делом моей мечты. https://habr.com/ru/articles/808301/
Привет, читатель! Это моя первая статья на Хабре. Прошу строго не судить.
Хочу рассказать свою историю. Меня зовут Марк, мне 14 (2009г). В свои 14 я зарабатываю сам и занимаюсь делом моей мечты. https://habr.com/ru/articles/808301/
Хабр
Как в 14 лет я стал сисадмином
Привет, читатель! Это моя первая статья на Хабре. Прошу строго не судить. Хочу рассказать свою историю. Меня зовут Марк, мне 14 (2009г). В свои 14 я зарабатываю сам и занимаюсь делом моей мечты. 2015...
Что делать, чтобы эксплуатация не превратилась в бесконечное тушение пожаров
Меня зовут Владимир Медин, я работаю в подразделении SberWorks, которое внедряет практики DevOps и MLOps. Хочу поделиться нашим опытом повышения надёжности enterprise-систем, вводимых в эксплуатацию, особенно впервые. Для кого-то эта статья будет в большей степени спасательным кругом, но с напутствием. Многие подходы к обеспечению надёжности у нас регламентированы, но есть и «неуставные» решения, которые вырабатываются только с опытом. Кому-то могут бы непонятны некоторые тонкости, диктуемые условиями крупной компании, поэтому по мере рассказа буду объяснять, почему это важно. Впрочем, на мой взгляд, эти правила применимы в работе компании любого размера, дорожащей стабильностью качества своих услуг. https://habr.com/ru/companies/sberbank/articles/809369/
Меня зовут Владимир Медин, я работаю в подразделении SberWorks, которое внедряет практики DevOps и MLOps. Хочу поделиться нашим опытом повышения надёжности enterprise-систем, вводимых в эксплуатацию, особенно впервые. Для кого-то эта статья будет в большей степени спасательным кругом, но с напутствием. Многие подходы к обеспечению надёжности у нас регламентированы, но есть и «неуставные» решения, которые вырабатываются только с опытом. Кому-то могут бы непонятны некоторые тонкости, диктуемые условиями крупной компании, поэтому по мере рассказа буду объяснять, почему это важно. Впрочем, на мой взгляд, эти правила применимы в работе компании любого размера, дорожащей стабильностью качества своих услуг. https://habr.com/ru/companies/sberbank/articles/809369/
Хабр
Что делать, чтобы эксплуатация не превратилась в бесконечное тушение пожаров
Меня зовут Владимир Медин, я работаю в подразделении SberWorks, которое внедряет практики DevOps и MLOps. Хочу поделиться нашим опытом повышения надёжности enterprise-систем, вводимых в эксплуатацию,...
Месяц назад поставил Linux как основную ОС. Какие проблемы возникли? Рассказываю
https://habr.com/ru/articles/810829/
https://habr.com/ru/articles/810829/
Хабр
Месяц назад поставил Linux как основную ОС. Какие проблемы возникли? Рассказываю
Через 1,5 года заканчивается поддержка Windows 10, а 11-я мне не подходит, ибо нельзя вертикально поставить панель задач (см. cнимок экрана, как у меня всё организовано на двух экранах). Поэтому решил...
Исследование проблемы производительности межрегиональной сети
https://netflixtechblog.medium.com/investigation-of-a-cross-regional-network-performance-issue-422d6218fdf1
https://netflixtechblog.medium.com/investigation-of-a-cross-regional-network-performance-issue-422d6218fdf1
Medium
Investigation of a Cross-regional Network Performance Issue
Hechao Li, Roger Cruz
Неожиданности IPv6, или почему тупят Instagram и WhatsApp через прокси и VPN
Довольно часто в последнее время на разных форумах и чатах люди жалуются, что когда они пользуются VPN или прокси, то у них после подключения на устройствах как-то странно начинают работать некоторые приложения. Например, не приходят сообщения в WhatsApp, не загружаютя сторис в Instagram, и другие подобные вещи. Причем нередко проблема чинится сама по себе спустя 10-15 минут после подключения, но после переподключения или переоткрытия клиента начинается снова. Иные жалобы состоят в том, что не смотря на то, что пользователь выходит в интернет через VPN или прокси, некоторые заблокированные сервисы и сайты у него все равно не открываются. И в том и в том обычно винят баги прокси/VPN-клиентов, администраторов серверов, и кого угодно еще. И я вам скажу: зря. Все гораздо проще и гораздо сложнее одновременно. https://habr.com/ru/articles/811487/
Довольно часто в последнее время на разных форумах и чатах люди жалуются, что когда они пользуются VPN или прокси, то у них после подключения на устройствах как-то странно начинают работать некоторые приложения. Например, не приходят сообщения в WhatsApp, не загружаютя сторис в Instagram, и другие подобные вещи. Причем нередко проблема чинится сама по себе спустя 10-15 минут после подключения, но после переподключения или переоткрытия клиента начинается снова. Иные жалобы состоят в том, что не смотря на то, что пользователь выходит в интернет через VPN или прокси, некоторые заблокированные сервисы и сайты у него все равно не открываются. И в том и в том обычно винят баги прокси/VPN-клиентов, администраторов серверов, и кого угодно еще. И я вам скажу: зря. Все гораздо проще и гораздо сложнее одновременно. https://habr.com/ru/articles/811487/
Хабр
Неожиданности IPv6, или почему тупят Instagram и WhatsApp через прокси и VPN
Довольно часто в последнее время на разных форумах и чатах люди жалуются, что когда они пользуются VPN или прокси, то у них после подключения на устройствах как-то странно начинают работать некоторые...
Мы хотим, чтобы серверы падали одновременно
К нам обратился заказчик из сфера развлекательного видеостриминга с интересной проблемой - у него сервера падали не одновременно. А очень хотелось бы добиться синхронности.
Сервера, которые смущали заказчика работали в роли бэкенда для хранения видеофайлов. По сути, это было множество узлов, содержащих десятки терабайт видеофайлов, которые предварительно были нарезаны в разном разрешении конвертерами. Затем, все эти миллионы файлов отдавались во внешний мир с помощью nginx + kaltura, что позволяло перепаковывать на лету mp4 в сегменты DASH/HLS. Это позволяло хорошо переносить даже высокие нагрузки, отдавая плеером только нужные сегменты без резких всплесков.
Проблемы появились тогда, когда встал вопрос с георезервированием и масштабированием при росте нагрузок. Сервера внутри одной группы резервирования умирали не синхронно, так как представляли были весьма разнообразным зоопарком с разными провайдерами, шириной канала, дисками и RAID-контроллерами. Нам предстояло провести аудит всей этой красоты и перестроить почти с нуля весь мониторинг с методологией управления ресурсами.
https://habr.com/ru/companies/wiseops/articles/812331/
К нам обратился заказчик из сфера развлекательного видеостриминга с интересной проблемой - у него сервера падали не одновременно. А очень хотелось бы добиться синхронности.
Сервера, которые смущали заказчика работали в роли бэкенда для хранения видеофайлов. По сути, это было множество узлов, содержащих десятки терабайт видеофайлов, которые предварительно были нарезаны в разном разрешении конвертерами. Затем, все эти миллионы файлов отдавались во внешний мир с помощью nginx + kaltura, что позволяло перепаковывать на лету mp4 в сегменты DASH/HLS. Это позволяло хорошо переносить даже высокие нагрузки, отдавая плеером только нужные сегменты без резких всплесков.
Проблемы появились тогда, когда встал вопрос с георезервированием и масштабированием при росте нагрузок. Сервера внутри одной группы резервирования умирали не синхронно, так как представляли были весьма разнообразным зоопарком с разными провайдерами, шириной канала, дисками и RAID-контроллерами. Нам предстояло провести аудит всей этой красоты и перестроить почти с нуля весь мониторинг с методологией управления ресурсами.
https://habr.com/ru/companies/wiseops/articles/812331/
Хабр
Мы хотим, чтобы серверы падали одновременно
Если у вас зоопарк из серверов, то не стоит сравнивать абсолютные показатели. Нормализуйте. К нам обратился заказчик из сферы развлекательного видеостриминга с интересной проблемой - у него серверы...
Учебное пособие по работе в сети Linux
Вам нужна помощь в изучении концепций сетевых технологий в операционных системах Linux? Если это так, то вы попали в нужное место. В этом руководстве представлено подробное объяснение концепций сети в Linux. К концу этого руководства вы получите четкое представление о сетевом администрировании Linux и его работе.
https://mindmajix.com/linux-networking-tutorial
Вам нужна помощь в изучении концепций сетевых технологий в операционных системах Linux? Если это так, то вы попали в нужное место. В этом руководстве представлено подробное объяснение концепций сети в Linux. К концу этого руководства вы получите четкое представление о сетевом администрировании Linux и его работе.
https://mindmajix.com/linux-networking-tutorial
mindmajix
Linux Networking Tutorial | Essential Guide for Beginners
Linux Networking Tutorial ➔ In this article you will learn about ✔️What is Linux ✔️ Networking Basics ✔️Networking Commands, and more.