Чем дальше иду дорогой devops, тем больше убеждаюсь в том, что часть инфраструктуры необходимо переносить в сервисы.

По деньгам выходит на порядок дешевле, чем арендовать и поддерживать сервера. Перестает болеть голова по многим ситуациям.

Появляется свободное время для творчества и действительно важных дел.

- Не беспокоюсь за бекапы
- Кластерная база данных
- Отказоустойчивость VRRP
- Облачный мониторинг и алерты
- CDN
- Никаких тупых glusterfs
- Анти DDos
+ ещё пару десятков плюсов

По моим расчетам, за счёт сервисов мы сэкономили около 20% бюджета и это ещё не предел.

Раньше я скептически относился к таким решениям, но мир изменился, сисадмины больше не нужны, всем заправляют сервисы. И это заебись.

Крутой сайт https://free-for.dev/ Там можно найти практически любой сервис под ваши потребности.

Есть такая замечательная штука, как Парадигмы Фридмана. И самый распространенный пункт в моей практике, это номер три.

Парадигмы Фридмана

1. Полученное задание должно быть проанализировано перед началом работы.
2. Полученное задание должно быть выполнено на 100 процентов.
3. «Уперся — сообщи» О препятствиях к стопроцентному выполнению задания следует немедленно сообщить руководителю и всем заинтересованным лицам.
4. Предложение по решению проблемы предпочтительнее информации об ее возникновении.
5. Факты и аргументация предпочтительнее мнения.
6. Расширенное толкование полученного задания не допускается.
7. Несогласие с параметрами задания или регламентами исполнения не может служить поводом для их игнорирования.

Чтобы не показаться не компетентными, люди в 99% случаев никогда тебе не сообщат, что они уперлись. Но в этом и заключается главная ловушка, можно решать проблему пару недель и не решить. В итоге имеем проеб по дедлайнам и не сделанную задачу на 100%. Никому от такой работы лучше не становится.

Если осознать проблему и вовремя обратиться к старшим товарищам, ты будешь приятно удивлен, что твоя задача решается в лучшем случае за пять минут, четырьмя строчками кода.

Понятно, что ты сам хочешь решить возникшие трудности, проникнуться технологиями, разобрать весь механизм и собрать обратно. Но бизнесу всегда нужен результат вчера и он НЕ может ждать пока ты качаешь свою новую компетенцию.

По этому если ты уперся, сообщи пожалуйста!

Сегодня рано утром мы с QA коллегой "провели" нагрузочное тестирование нашего магазина. Собственно выводы которые мы сделали:

- Нельзя запускать тесты на локальной машине, особенно если это ноутбук среднего класса. В первую очередь упираемся по потокам - A single JMeter client running on a 2-3 GHz CPU (recent CPU) can handle 1000-2000 threads depending on the type of test.

- Jmeter активно пожирает оперативную память. 32 гигабайта ОЗУ + 32 гигабайта swap, позволили нам создать нагрузку в 2000 RPS в течение 5 минут (а планировали подать около 6500 RPS на час). После того, как память закончилась, пришел добряк OOM и закончил наш веселый карнавал.

- Передача аргументов -Xms512m -Xmx512m не особо изменило ситуацию.

- Дроплет за 10 000 рублей в месяц, не эффективен с текущими инструментами, которые мы использовали.

- Мы не умеем правильно проводить нагрузочное тестирование в продакшене. Не умеем именно в техническом плане. Хотя четко сформулировали метрики, которые будем снимать и провели предварительное нагрузочное тестирование на тестовых серверах.

Теперь попробуем поднять Яндекс.Танк и бахнуть из него. Если это окажется малоэффективным, всегда есть смысл уйти в специализированный сервис и в очередной раз избавиться от головной боли.

Для справки: RPS это Requests per second

Когда попросили поправить пару строк кода в давнишнем проекте. Ты с дуру согласился. Но проект оказался написан на перфокартах

Пост 18+, Parental Advisory Explıcıt Content

Ну а сегодня я тебе расскажу, как можно снизить расходы на существующей инфраструктуре. Если будешь читать внимательно, возможно бизнес скажет тебе спасибо в эти непростые и трудные для всех времена. Ты часть большого механизма и нужно хоть иногда приносить пользу, а не просто бездумно вливать деньги компании в какие-то избыточные решения. Ведь тебе голова дана не для того, чтобы в нее еду запихивать, а чтобы размеренно думать и рожать правильные мысли.

Поехали

1. Откажись от забугорных провайдеров
2. Проведи инвентаризацию серверов и услуг
3. Откажись от железных серверов и бородатого админства
4. Оптимизируй имеющиеся вычислительные мощности
5. Разберись с ослиными хвостами и непонятными платежами

Теперь основательно пройдемся по каждому из пунктов

1. Что круче Digital Ocean или Selectel? По плюшкам и всяким кнопочкам, конечно-же круче DO. Но DO находится далеко, где-то наверное в Америке, но я могу ошибаться. Черт с ним. Тут главное, что если ты хостишься в DO (или Amazon или еще в какой-нибудь жопе), ты привязан к курсу доллара и если ты когда-то платил 500рублей в месяц, то в один прекрасный момент, когда нефть куда-то там упала, ты начинаешь платить уже 1000 рублей за то-же самое. Как-то несправедливо.

Пусть к доллару привязываются богачи и само провозглашенные CTO (не буду называть имен, а то ребята обидятся и дадут мне пизды). Затянул. В общем хочешь сэкономить на провайдере, ищи провайдера в родных краях. Мы же свой голос отдали Selectel. Аптайм бывает скачет, но ребята лояльные и с ними можно разговаривать, идут на встречу. К тому-же огромный плюс, что они работают с ЮР лицами, а не как DO списывает денежку с личной карты. Ладно, тут разобрались и сэкономили пару тыщ баксов. Если тебе этого достаточно, дальше можешь не читать.

2. Продолжаем оптимизацию расходов. Ага, инвентаризация. Когда я работал на заводе, мы проводили инвентаризацию каждый год. Никто тогда из нашего отдела не понимал, нахуя мы этим занимаемся. Но раз задачу ставили, значит это было кому-то нужно, а на самом деле нет. Чем бы солдат ни занимался, лишь бы заебался.

В общем пару недель назад мне почему-то в голову пришла мысль — а не посчитать ли мне, сколько мы платим денег за все сервера, облака, сети и т.п. Возник азарт. И когда я начал сводить табличку, у меня сначала выпал один глаз, потом выполз второй.

Около 20% ресурсов за которые мы ежемесячно платим, не используются, либо используются не по назначению. К примеру в загашнике висело четыре железных сервера, они просто были включены и ничего не делали, соответственно я их выключил и ничего не произошло. Да, ничего не уебалось, не сломалось. Но предварительную экспертизу я конечно же провел. По облакам были раскиданы блоки плавающих IP адресов, которые так-же не использовались. Лендинг и сабпроекты крутились на пяти облачных серверах и где-то даже дублировались. Да много чего еще обнаружилось интересного.

Вот так единственный раз в жизни мне пригодились навыки инвентаризации полученные в те теплые времена становления заводского IT. Короче тут вы поняли что нужно делать. Собираем в табличку все все все, отходим, смотрим и видим всю картину. Вот зуб даю, что у каждого есть (ну возможно были) такие скелетики.

3. Железные сервера. Бородатые админы. В одном из предыдущих постов я уже писал про уход в сервисы https://news.1rj.ru/str/devopsina/4

В этом пункте необходимо собраться силами и уехать со всеми проектами в облачные решения. По деньгам выйдет дешевле, а если у тебя в голове сейчас возникла мысль — да ладно, он пиздит. Подумай еще про это — сколько времени и нервов ты тратишь на обслуживании этих бездушных железяк. Диски дохнут, память выходит их строя, все это надо админить, поддерживать. Но если тебе уже за 60 годков и ты помнишь как установить solaris, продолжай админить, чо уж поделать, не мне тебя учить.

Пока писал, аж зубы заломило. Господа, уходите в облачные решения. Заливайте ваши 20 терабайт данных в облачное хранилище и раздавайте через CDN. Самый огромный плюс, не надо ничего бекапить, это сделает за вас сервис.

4. А у тебя тоже лендос в html крутиться на инстанте с 16 CPU и 32RAM? Ну вы поняли. Закладывай мощности объективно, не надо жить с мыслью — я скоро буду масштабироваться и мне SSD диск непременно надо взять сразу за 20000 рублей. Когда соберешься расти вертикально, тогда и закупай необходимые мощности. Благо сейчас скейлинг и ресайз делается за несколько минут. Завтра как проснешься, иди и проверяй.

5. Ослиные хвосты. Четкого описания под это определения нет, тут проще на кошках объяснить. Вот смотри, у тебя есть какие-то виртуальные площадки, пачка доменов, лицензии на нортон коммандер и винрар. Каждый месяц ты все это честно оплачиваешь, потому, что весь этот прицеп тебе достался от коллег, которые давно уволились. Ты этим всем не пользуешься, но почему-то думаешь, что это важно. На доменах висят заглушки регистратора, нортон не запускается на 10ке, винрар бесплатный для коренных россиян.

Короче ты превращаешься в человека, который тащит весь найденный мусор к себе в дом, потому, что не знаешь, что с этим всем делать. Понял к чему я веду?

Соберись тряпка, и наведи порядок у себя в периметре. Потрать 8 часов своей жизни, и наконец выясни за что и зачем ты платишь деньги. В моем случае я просто все забекапил, залил в облако и разорвал контракты. За год про этот мусор никто не вспомнил, а если не дай бог вспомнит, всегда под рукой есть бекап.

Спасибо, что дочитал/дочитала/дочитали до конца. А если не дочитал, значит ты вполне успешный миллионер, которому плевать на свои деньги.

Никого не призываю к активным действием и приношу свои извинения за некоторое сквернословие. Но из песни слов не выкинешь. Будьте мудрыми дядями и тетями.

Наш продукт интегрирован с множеством различных сервисов, но не у всех этих сервисов есть вменяемое API. По личным наблюдениям, ни один сервис, который мы используем, не может отдать нам необходимую статистику для интеграции с нашей системой мониторинга. При чем если войти в личный кабинет интегратора, вся необходимая статистика там красиво рисуется и даже есть необходимые API методы, но все эти методы приватные.

А нам ой, как нужна эта статистика. Мы хотим понимать на с чьей стороне проблемы, у нас или у интегратора. Хотим знать, когда у нас переполнится ККМ либо протухнут интеграционные сертификаты.

В 99% случаев интегратор отказывается идти на встречу и просто разводит руками, мол крутитесь как хотите. Ну вот мы и крутимся.

Для получения статистики я использую обычный bash скрипт, за основу взят curl. А дальше дело в шляпе. Авторизовываемся, сохраняем cookie, дергаем страницу или имеющиеся приватные API методы, по возможности парсим, либо используем имеющийся json ответ бекенда.

Ну и конечно-же сохраняем все необходимые нам данные в файл в формате prometheus и закидываем его в папку textfile_collector. Ну а что-бы все было best practice по возможности пишем на goland нативный экспортер метрик и отдаем через /metcrics

И данный способ применим к любым сервисам, хочешь вытаскивай свой текущий баланс из банка, получай информацию по доменам, да делай что захочешь.

Идея для стартапа

Если столкнулся со скудным API интегратора, сделай красивую прокладку и пользуйся. В идеале запили собственное API, которое будет брать данные из другого API и иди продавай на крупнейший маркетплейс https://rapidapi.com/. Вот и вся наука.

Чеклист моей продуктивной работы

Меня очень сильно вдохновляют и мотивируют книги по саморазвитию и самоорганизации. После прочтения чего-либо по данной тематике, я ощущаю огромный прилив сил и позитивной энергии. Это сказывается на моем ежедневном КПД.

Читать книги не всегда есть время, а заряд энергии постепенно стремится к нулю. В итоге я начинаю лениться. Чтобы этого не происходило и моя батарейка всегда была заряжена, я сделал небольшой список и распечатал его.

Когда чувствую, что сил совсем не осталось, я перечитываю этот чеклист. На все уходит несколько минут, но за эти минуты моя внутренняя батарея заряжается на 100500%.

Хорошей практикой будет выработать привычку и перечитывать этот список ежедневно перед началом рабочего дня. Либо как советуют тренера по личностному росту, поглощайте информацию перед сном. Во сне ваш мозг активнее переварит прочитанное, что даст еще некоторый прирост к вашей продуктивности.

— Решай проблемы по мере их поступления.
— Одна задача за один раз. Не брать вторую задачу пока не сделаешь первую.
— Если задача занимает меньше 5-10 минут её надо сделать в первую очередь.
— Не пересаживать свою обезьяну на других людей. Твоя задача, ты за нее отвечаешь.
— Не бояться ошибиться, быть самостоятельным.
— Пытаться решить проблему своими силами не прибегая к посторонней помощи.
— Планировать день в ежедневник (планирую в notion)
— Выделить важное чего нужно добиться за день-неделю-месяц-год. (обычно для меня это месяц)
— Съесть какашку. Сделать неприятные задачи в первую очередь.
— Выделить самую важную задачу. И проставить приоритеты.
— Большую задачу разбивать на несколько мелких.
— Планироваться с вечера. Ночью мозг активно обдумывает сделанное планирование.
— Задать себе вопрос — что может произойти, если я выполню или не выполню эту работу?
— Проверять почту 2-3 раза в день в определенное время.
— Побороть желание владеть вещью сиюминутно.
— При ожидании задачи из-за внешних факторов. Сделать мелкую задачу.
— Задать себе вопрос, что мешает продвигаться вперед?
— Изучить и выявить проблему. Определить слабые места.
— Все большое начинается с малого.
— Я не работаю ни одного дня в неделю, а занимаюсь любимым делом и получаю от этого удовольствие.
— Если ты боишься что-то делать, значить тебе это нужно сделать.
— Один час в день отключать все что отвлекает, телефоны, почту, мессенджеры и т. п.
— Один день в неделю не пользоваться гаджетами и интернетом. (в текущей роли для меня это больше не приемлемо)
— Прежде чем делать задачу, выжди некоторое время, возможно в выполнении задачи нет смысла.

Этот список был составлен в течении прошлого года. Может все это выглядит шаблонно и банально, но меня вставляет.

Чо там говорят еще - лайк, репост, хуест

Что-бы избавиться от ежедневной рутины, я стараюсь автоматизировать повторяющиеся задачи. Все, что не поддается автоматизации, я все равно автоматизирую. Ты сейчас думаешь, а как можно автоматизировать, то, что нельзя автоматизировать?

На самом деле есть много разных способов, к примеру можно делегировать, написать ИИ, примотать палку к кастрюле синей изолентой. Подключай голову и думай. Великие инженеры придумали станки, которые вяжут носки, собирают кубика рубика 10x10, моют тебе посуду и кипятят чай.

Если ты по жизни хуевый инженер, то никакая автоматизация тебе не поможет, сиди и плачь как всё вокруг плохо и все гадноны, кроме тебя.

Я же иду другим путем и считаю, что у любой задачи есть решение. Пусть это решение будет не очевидное, простое, сумасшедшее, но оно будет решать задачу. Я работал в разных командах и везде были люди, которые любили все усложнять.

К примеру что-бы вкрутить лампочку, эти люди тратили две недели на разработку ТЗ и потом еще два месяца что-бы сделать одно простое действие. Ну это пиздецже. Самое обидное в таких ситуация, что если пытаешься как-то на это повлиять, то в любом случае остаешься крайним.

Благо сейчас ситуация другая и в моей команде остались, адекватные и сообразительные коллеги. Спасибо вам друзья за вашу работу. Вы крутые!

Запомни и повторяй перед сном — Чем проще решение, тем оно надежнее.

Надо смотреть на ситуацию шире и иногда снимать со своих прекрасных глазок шоры.

К посту выше, есть такая поговорка: Я ебу все что движется, а все, что не движется я двигаю и ебу
Вот она лучше всех отражает простоту решения любой задачи