DevOps Deflope News – Telegram
DevOps Deflope News
5.75K subscribers
24 photos
1.52K links
DevOps Deflope News — выборка новостей и тулинга от инженеров «Фланта». Берём весь информационный поток и пропускаем через фильтр здравого смысла. Ещё пишем подкаст.

Рекламу не размещаем. Для связи @dvpsdflpfdbkbot.
Download Telegram
Нидерландская компания DutchCoders собрала все AWS API в удобную таблицу с возможностью поиска и фильтрации: http://amp.gs/8xmr
Аналогичная таблица есть и для EC2 инстансов: http://amp.gs/8xmO
Вышел Apache Mesos 1.0. Mesos - это платформа для управления кластером, позволяющая запускать распределенные приложения, абстрагируясь от вычислительных ресурсов отдельных машин, а также динамически управлять их размещением. Система горизонтально масштабируется вплоть до нескольких тысяч узлов. Поддерживается работа с Hadoop, MPI, Hypertable и Spark.

Особенности новой версии:
Новый HTTP API, упрощающий создание фреймворков для работы с Mesos;
Унифицированная система работы с контейнерами, позволяющая запускать Docker/Appc контейнеры без непосредственного обращения к docker engine или rkt;
Механизм изоляции контейнеров (предложенная проектом CoreOS спецификация CNI - Container Network Interface). С ее помощью контейнерам можно выделять адресное пространство и подключать их к разным типам IP-сетей;
Поддержка использования Nvidia GPU в качестве ресурсов для унифицированных Mesos-контейнеров;
Добавлена авторизация и аутентификация для многих методов API;
Добавлена поддержка Windows (пока в статусе бета).

Новость в блоге Apache Foundation: http://amp.gs/8xZ5
Полный Changelog (осторожно, очень много текста): http://amp.gs/8xZQ;a=blob_plain;f=CHANGELOG;hb=1.0.0
Вышел Docker 1.12.

Важные новшества по сравнению с предыдущей версией:
Оркестрация. Появились команды swarm для управления кластером, node для управления нодами и service для деплоя контейнеров в кластер;
В Dockerfile добавлены директивы HEALTHCHECK и SHELL, для проверки приложений и задания дефолтной оболочки соответственно;
Серьезные улучшения в сетевой части: MacVlan драйвер перестал быть экспериментальным, добавлен load-balancing, добавлено шифрование к overlay-сетям.

http://amp.gs/8x2p
Casey Bisson из Joyent написал полезную статью про хранение данных в рамках stateless инфраструктуры. Из важных моментов стоит отметить рассказ о том, как привести MySQL к stateless.

http://amp.gs/8xFV
DevOps Library выпустили (и планируют продолжить углубляться в тему) большой курс по Jenkins.
Курс представляет собой цикл видео и текстовых мануалов, разбирающий тот или иной аспект этой CI системы. Итоговой целью курса является подготовка слушателей к CCJPE (Certified CloudBees Jenkins Platform Engineer).
Также на их сайте есть обзорные уроки по ELK, Vagrant, Docker, и, внезапно, SaltStack.
http://amp.gs/8CE6
Дмитрий Франк опубликовал неплохую шпаргалку по Docker (к сожалению, не затронуты команды оркестрации, но вы всегда можете послать Pull Request).
http://amp.gs/8C4z
Если вы поддерживаете свои публичные (или часто пользуетесь чужими) Docker Images, вам может пригодиться MicroBadger: сервис, который предоставляет детальную информацию об используемых слоях, лицензии и истории версий, а также позволяет встраивать бэйджи с этими данными в свой репозиторий.

Раньше сходную информацию предоставлял ImageLayers, но он последнее время не работает.

http://amp.gs/8CUJ
Дмитрий Зайцев из OneFactor опубликовал на Хабре туториал по использованию Hashicorp Vault - key-value хранилищу приватных данных, позволяющему гибко настраивать политики доступа к секретам.

http://amp.gs/8kCO
Мы тут немного упустили, извиняемся. 26 июля вышел релиз 2.0.0 платформы для распределенной обработки данных Apache Spark.

Основные изменения:
API переработано в сторону большей унификации: объединены DataFrames и Datasets, добавлена универсальная входная точка SparkSession, упрощено Accumulator API;
Значительно (до 10 раз по сравнению со Spark 1.6) увеличено быстродействие на некоторых операциях;
Добавлено Structured Streaming API (пока альфа-версия, незначительно расширяющая DataFrame/Dataset API).

Официальные Release Notes: http://amp.gs/8key
Сообщение в блоге Databricks, включает в себя подробное сравнение быстродействия Spark 1.6 и 2.0: http://amp.gs/8ke7
На SlideShare выложили презентацию с различными архитектурами Docker Continuous Delivery. К каждой схеме есть ссылка на пост с подробным описанием деталей.

http://amp.gs/8kPp
Platform9 (фирма, предоставляющая managed OpenStack облака как сервис) презентовала свой новый продукт: managed Kubernetes кластер. Ребята берут на себя все вопросы по конфигурированию, обслуживанию и мониторингу кластера: http://amp.gs/8epl

На основе своего опыта эксплуатации Kubernetes в продакшене, инженеры Platform9 написали статью о сложностях использования этой платформы: http://amp.gs/8epp
Автор Goss (serverspec-like утилиты для валидации конфигурации сервисов и проведения healtcheck'ов) опубликовал статью, рассказывающую о том, как решить с помощью его утилиты ряд ограничений Docker и Kubernetes.
Например: запускать healthcheck, включающий в себя несколько команд (директива HEALTHCHECK в Dockerfile этого не позволяет) или запускать Docker-контейнер/Kubernetes-под только после запуска всех сервисов, от которых он зависит.
http://amp.gs/8elH
Состоялся релиз Terraform 0.7 - утилиты от Hashicorp для описания инфраструктуры и ее развертывания в облачных (и не только) провайдерах.
Ключевые изменения:
Import - Terraform научился импортировать существующую инфраструктуру в файл - может быть полезно в случае создания части инфраструктуры руками;
Data sources - аналогично предыдущему пункту, Terraform научился получать данные из внешних источников для последующего использования их в конфигурации. Например, вместо хардкодинга aws_ami можно заставить Terraform получать его динамически;
State - появился набор сабкомманд для работы со state-файлами (раньше их приходилось править вручную);
List and Map - в конфигурациях стало возможным использовать массивы, в том числе и ассоциативные.
http://amp.gs/8enw
Инженеры Datadog написали замечательную статью про анти-паттерны построения графиков для мониторинга. Большинство советов, правда, сводится к простому "не сваливайте все в одну кучу".
http://amp.gs/8exb
На The Next Platform вышла статья о том, что же вообще такое Serverless (спойлер: serverless doesn't really serverless), а также о том, какие выгоды такая архитектура может принести бизнесу.
Статья обзорная, больше про общие рассуждения, нежели про технологии, но в конце есть полезная ссылка на примеры архитектур с использованием AWS Lambda.
http://amp.gs/87zs
Забавная (но довольно бесполезная) аналитика от David Gageot. Он взял Google BigQuery, данные о всех публичных репозиториях Github и начал анализировать.
Например, он выяснил, что самым популярным base image является ubuntu:14.04 (используется примерно в каждом десятом Dockerfile), а всего Dockerfile содержится примерно в 1% всех публичных Github репозиториев.
Остальные факты и примеры запросов вы можете посмотреть здесь: http://amp.gs/87YA
В блоге Docker опубликовали статью, подробно рассказывающую о взаимодействии компонентов кластера, а также об алгоритмах добавления ноды, создания и обновления сервиса.
В конце статьи есть ссылки на пару видеопрезентаций об архитектуре нового Swarm.
http://amp.gs/87Zm
Хорошая публикация с разбором статьи Uber о их переходе с PostgreSQL на MySQL. Обозрены некие недомоловки из оригинальной статьи и более четко обозначен фокус проблем.
http://amp.gs/87lP
На Github выложили первую часть списка ресурсов для подготовки к сертификации AWS. Список пока охватывает только AWS solutions architect - Associate exam, но уже получился довольно внушительным.

http://amp.gs/87cX
Новость для тех, кто(все еще) использует zabbix. Появилась cli утилита zabbixctl. С ее помощью можно посмотреть список сработавших триггеров, latest data и управлять пользователями.

http://amp.gs/8762