☄️ Инфраструктура для AI: от идеи до полного внедрения

AiOps — новый тренд в нашей сфере. Появляется всё больше вакансий в духе AI Infrastructure Engineer. По сути, это создание инфраструктуры для любых экспериментов и полноценных стартапов с ИИ.

Это заставило нас задуматься — так мы же это тоже делаем!

➖ У нас есть опыт успешного внедрения Deep Learning, DataOps и MLOps.
➖ Работаем с госсектором, стартапом и средним бизнесом.
➖ Масштабный стек технологий, с которыми работают наши инженеры.

Упаковали свой опыт и выделили новую услугу — AI Infrastructure Engineering.

Если вам или вашим коллегам понадобятся профи, вы знаете, кого рекомендовать. Настроим, оптимизируем и возьмем на поддержку инфраструктуру для AI и ML проектов под ваши нужды 🔥

@DevOpsKaz 😛

☄️ Запуск GPU-Accelerated LLM Workloads на EKS

Дано:

— AWS EKS (≥ v1.28.0)
— Karpenter (v.0.31) для создания GPU-нод
— k8s-device-plugin от NVIDIA для предоставления GPU для подов
— Mistral 7B LLM, наша open-source LLM
— Hugging Face text-generation-inference (TGI) сервер

Что делаем с этим:

Запусткаем рабочую нагрузку на основе больших языковых моделей (Large Language Model, LLM) с использованием ускорения на GPU и Elastic Kubernetes Service (EKS).

👉 Читайте в новой статье

@DevOpsKaz 😛

🔥 2 вакансии в компанию партнеров BinTech

Локация: Алматы
Требуемый опыт работы: 1–3 года
Полная занятость, полный день
Подробности на собеседовании
ЗП — от 200 000 до 350 000 тенге до вычета налогов

1️⃣Инженер по эксплуатации IT-инфраструктуры:

•

Поддержка рабочих мест:

Настройка и сопровождение компьютерной и оргтехники, установка и обслуживание ПО, подготовка и организация рабочих мест, мониторинг состояния инфраструктуры.
•

Мобильная и печатная техника:

Настройка устройств на базе iOS, Android, Windows, проведение регулярного обслуживания и профилактики, организация замены и утилизации техники.
•

Информационная безопасность:

Обеспечение антивирусной защиты и соблюдение корпоративных стандартов безопасности.
•

Работа с POS-терминалами:

Регистрация, установка, диагностика и замена терминалов, подключение к кассовым узлам, обучение персонала и ведение документации.
•

Склад и учет:

Ведение учета оборудования и SIM-карт в CMDB, организация склада, проведение инвентаризации.
•

Техническое сопровождение ИС B-Business:

Установка и настройка клиентской части ПО, поддержка пользователей без доступа к конфиденциальной информации.
•

Технологические процессы:

Проведение резервного копирования, обновление систем и внесение изменений в рамках поддержки пользователей.

2️⃣ Специалист технической поддержки:

• Настройка и обслуживание компьютерного оборудования и оргтехники.
• Установка и сопровождение офисного и прикладного ПО.
• Подключение и настройка телефонных аппаратов и мобильной техники (iOS, Android, Windows).
• Обеспечение стабильной работы оборудования в кассовых узлах.
• Замена, настройка и интеграция нового оборудования.
• Регулярное техническое обслуживание, чистка, замена компонентов.
• Обслуживание чековых принтеров, сканеров, сетевого оборудования.
• Мониторинг инфраструктуры, выявление и устранение неисправностей.
• Антивирусная защита и соблюдение политики безопасности.
• Подготовка рабочих мест, инвентаризация техники.
• Поддержка переездов и перемещений пользователей.
• Организация списания и утилизации техники.
• Проведение ремонтных работ с привлечением подрядчиков.
• Ведение склада и учет техники в CMDB.
• Техническая поддержка мероприятий и кабельной инфраструктуры.
• Резервное копирование/архивирование.
• Обновление/внесение изменений по системам в рамках компетенций направления технической поддержки рабочих мест пользователей.

🚩 Контакт для связи: +77014675010, Лунара

Каждый победитель получит по ваучеру — мы напишем в личку до пятницы включительно!

Вы не в числе победителей? Ничего страшного. Оставайтесь с нами — впереди другие конкурсы, море полезного контента и, конечно, обучение со скидкой от наших партнёров.

@DevOpsKaz 😛

☄️ Интерактивный Kubernetes-тренажер

Kubelab — это веб-платформа для интерактивного обучения Kubernetes. Здесь вы найдете лабораторные работы, специально созданные для проведения воркшопов. То есть, они заточены для увлекательной учебы на практике хоть всей компанией сразу.

Лабораторки интересные — есть и самые базовые (Networking, Storage, Jobs, RBAC и т.д.), и продвинутые задания (комплекс того, чему обучают в основах).

Можно подсмотреть подсказки и готовые решения, если где-то прям не идет. Из дополнительного есть веб-интерфейс и редактор кода.

Подробная инструкция по настройке прилагается.

👉 Сайт

Пользуйтесь и делитесь с коллегами 🫡

@DevOpsKaz 😛

🔥 Yandex Qazaqstan запускает Центр технологий для общества

Yandex Qazaqstan запускает новую инициативу для поддержки социально значимых проектов в Казахстане, — Центра технологий для общества.

Он объединит представителей казахстанского научно-исследовательского сообщества с технологиями и экспертизой Yandex Cloud, чтобы быстрее и эффективнее решать важные для общества задачи.

Центр поддерживает проекты в четырёх направлениях:

➖ наука и образование
➖ здравоохранение
➖ экология
➖ культура

Уже реализованные проекты: нейросеть для распознавания снежных барсов, технология мониторинга выбросов вредных веществ в атмосферу, нейросеть для выявления редкой патологии spina bifida на ранних сроках беременности и другие.

Заявки на участие принимаются от научных организаций, вузов, исследовательских команд, студентов технических специальностей, разработчиков и бизнеса.

Центр предоставляет проектам: экспертную помощь, доступ к облачным технологиям и инструментам машинного обучения Yandex Cloud, ресурсы для продвижения решений.

Проекты проходят отбор по таким критериям, как общественная значимость, научная обоснованность и возможность технологического внедрения.

👉 Полный перечень критериев участия и форма для подачи заявки доступны на сайте Центра технологий для общества.

#партнерский_пост

☄️ Новости инструментов мониторинга

1️⃣ Релиз Prometheus 3.0

Что интересного: добавили новый интерфейс, поддержку OpenTelemetry и меток UTF-8 для метрик, а также значительно улучшили производительность.

2️⃣ Год с релиза Grafana Beyla — инструмента автоматической инструментализации на основе eBPF.

Что интересного:

— Grafana Beyla теперь поддерживает приложения, написанные на Go, C/C++, Rust, Python, Ruby, Java, NodeJS и .NET
— Интеграция с Grafana Cloud
— Благодаря eBPF Grafana Beyla минимизирует расходы на систему, дает высокую производительность и гарантирует низкое влияние на работоспособность приложений

Планы на будущее:

— Расширить поддержку протоколов, таких как gRPC и HTTP/2
— Внедрить более интуитивно понятные инструменты для настройки и управления
— Добавить новые функции для более глубокого анализа и диагностики приложений

Делитесь новостью с коллегами 🫡

@DevOpsKaz 😛

🔥 CORE 24/7 приглашает на вакансию DevOps-инженера

Алматы, офис
Опыт работы: 1-2 года
Полная занятость, полный день
ЗП: 450 000 — 850 000 тг.

Задачи:
— Поддерживать production так, чтобы бизнес был спокоен
— Спасать клиентов в случае аварий
— Выстраивать процессы CI/CD
— Переносить приложения в Kubernetes. Запускать и настраивать их
— Делать БД, серверы очередей и прочий софт более надежными и быстрыми
— Разрушать стену между разработкой и администрированием

С кем вы будете работать:
— С клиентом, тимлидом и ПМом
— С командой разработки инструментов, сервисов и технологий для упрощения работы

Требования:
— Отличные знания Linux-систем — ежедневная эксплуатация от 3 лет, опыт в DevOps — от 1 года
— Понимание работы веб-приложений и опыт их эксплуатации — от 3 лет
— Понимание веб-стека (HTTP, TCP/IP), устройства и работы сетей, базовые навыки с iptables
— Понимание принципов СУБД, построения и эксплуатации распределенных систем
— Умение сформулировать алгоритм и писать скрипты

Писать сюда:
👉 aissabekova@core247.io
👉 @issaika

Полное описание вакансии

@DevOpsKaz 😛

Топ-5 сертификаций по DevOps для начинающих:

На DevOpsDays я общался с многими специалистами, и один из частых вопросов был: «С какой сертификации начать, чтобы добавить в резюме?» Изучив просторы интернета, решил разделить полезные сертификации по направлениям, которые охватывают все части DevOps. Вот что получилось:

1. Terraform Associate – всё про Infrastructure as Code (IaC). Вопросы могут быть сложными для новичков, но полезны, особенно если ваша компания работает с Terraform Cloud.
2. KCNA – базовая сертификация по Kubernetes. Если боитесь сразу сдавать CKA, это хорошая стартовая точка. Плюс, доступно два ретейка.
3. GitHub Foundation – знание Git крайне важно для DevOps. Этот экзамен доступнее, чем GitLab сертификация, и покрывает основы.
4. AWS Certified Cloud Practitioner – хоть многие говорят, что это сертификация больше для продаж, она помогает понять базовые облачные сервисы.
5. Microsoft Certified: Azure Fundamentals – экзамен охватывает основы IaaS, PaaS, SaaS, и в целом облака, что полезно для понимания инфраструктуры.
Помните, наличие сертификатов не гарантирует оффер, ведь большинство интервьюеров всё же оценивают ваши навыки и умение мыслить!

#aws #azure #terraform

🐈Подписаться

🔥 Лучшие практики для Dockerfile

Эффективные Dockerfile — гарант оптимизированных Docker-образов. Это значит легковесных, безопасных и легко поддерживаемых.

Сразу к делу:

➖ Минимизируйте количество слоев: каждая инструкция Dockerfile добавляет слой к образу. Чтобы уменьшить размер образа и ускорить сборку, объединяйте связанные команды с помощью многострочных операторов RUN и используйте && для цепочки команд.

➖ Используйте файлы .dockerignore: Как и .gitignore, они исключают указанные файлы и директории из контекста сборки Docker.

➖ Используйте кэш: Docker использует кэш для ускорения сборки, повторно используя слои. Чтобы оптимизировать кэширование, размещайте позже повторяющиеся команды и используйте конкретные версии для базовых образов и зависимостей.

➖ Оптимизируйте размер образа: удаляйте ненужные зависимости и файлы. Используйте легковесные базовые образы, такие как Alpine Linux, и не ставьте лишних пакетов.

➖ Очистка после установки: удаляйте временные файлы, кэш и метаданные с помощью команд apt-get clean, yum clean или apk, чтобы уменьшить размер образа.

➖ Делайте Docker-образы более безопасными, сканируя их на уязвимости, используя непривилегированных пользователей и ограничивая привилегированные команды.

➖ Документируйте процесс: добавляйте комменты, чтобы объяснять каждый шаг, документировать зависимости и предоставлять инструкции по сборке для облегчения поддержки и устранения неполадок.

Пользуйтесь и делитесь с коллегами 🫡

@DevOpsKaz 😛

🚩 300+ докладов с KubeCon + CloudNativeCon North America 2024

Флагманская конференция Cloud Native Computing Foundation недавно собрала специалистов из ведущих сообществ разработчиков ПО и облачных вычислений.

👉 Теперь стали доступны видеозаписи

Будет чем заняться в выходные :)

Смотрите и делитесь с коллегами 🫡

@DevOpsKaz 😛

☄️ Эксклюзивное интервью с Екатериной Смышляевой: развитие экономики данных в Казахстане

На митапе, организованном DAMA Kazakhstan 15 ноября 2024 года, депутат Мажилиса Парламента Республики Казахстан Екатерина Васильевна Смышляева специально для канала Real Digital ответила на вопрос:

Какие меры предпринимаются для развития экономики данных в Казахстане, включая законодательство, поддержку бизнеса, науки и подготовку специалистов?

Вот ключевые инициативы:

➖ Законы и регулирование:

Принят Закон о данных, который впервые вводит классификацию, требования к качеству и доступу к данным. Упорядочены права на использование обезличенных данных для научных исследований и ИИ. Определен порядок работы с альтернативными данными, которые аккумулируются банками, операторами связи и другими компаниями.

➖ Капитализация данных:

Введено понятие "дата-продукт". Однако вопросы собственности на данные и их монетизации еще предстоит решить в рамках Цифрового Кодекса.

➖ Инфраструктура:

Законодательно определены права и обязанности для облачных технологий и центров обработки данных (ЦОД). Рассматриваются меры поддержки для развития ЦОДов.

➖ Защита данных:

Усилия сфокусированы на защите персональных данных, корпоративной информации и локализации данных внутри страны.

🚩 Екатерина Васильевна подчеркнула:

«Принятые меры — это только начало пути. Остается множество нерешенных вопросов, которые мы должны устранить в ближайшее время, чтобы раскрыть весь потенциал данных для экономики Казахстана».

На митапе также были представлены итоги исследования рынка и экономики данных, проведенного IDC совместно с Первым Кредитным Бюро.

📍 Подписывайтесь на Real Digital, чтобы первыми узнавать о главных событиях в мире технологий и цифровизации

#партнерский_пост

🔥 Kyverno Reports Server — улучшение масштабируемости отчетности в Kubernetes

Когда в кластере множество политик, хранилище etcd может быстро переполниться, а производительность api-server — резко снизиться.

Этот новый проект от команды Kyverno предлагает решение: вынос отчетов за пределы etcd и хранение их в базе данных PostgreSQL.

С помощью Reports Server можно не только снизить нагрузку на etcd, но и упростить анализ отчетов. Это особенно полезно для команд, которым необходимо детально отслеживать выполнение политик в большом масштабе.

Такой подход позволяет гибко управлять отчетами и настраивать хранение на основе потребностей, что критически важно для больших production-сред.

Кстати, CNCF анонсировала сертификацию по Kyverno.

Пользуйтесь и делитесь с коллегами 🫡

@DevOpsKaz 😛

1️⃣ Red Hat передаст инструменты Podman, Buildah и Skopeo под управление CNCF

2️⃣ GitLab 17.6 с автономным Duo Chat в бета-версии и почти 150 улучшениями:

— Улучшено назначение ревьюеров для merge request
— На странице развертывания можно увидеть release notes, что упрощает мониторинг изменений
— Настройка для ужесточения списка разрешенных токенов для CI/CD заданий
— Отслеживание аутентификации токенов для CI/CD заданий
— Группировка отчетов об уязвимостях
— Новые проверки соответствия для сканеров безопасности SAST и DAST

3️⃣ Fluent Bit v3.2 — легковесный процессор логов и метрик от CNCF представил полную поддержку YAML, поддержку SIMD в JSON-энкодере и новый тип данных blob. Также добавлен экспериментальный eBPF.

@DevOpsKaz 😛

🔥 Горькая правда о GitOps и откатах базы данных

Статья по докладу на CNCF NA о Atlas — инструменте для управления миграциями баз данных, и в частности о Atlas Operator — способе управления состоянием базы в Kubernetes.

👉 Читайте в новой статье

Кроме некоторой рекламы Atlas, статья действительно указывает на проблемы миграций, которые не ограничиваются Kubernetes.

То, что не вошло в статью, но точно заслуживает быть здесь:

Есть инструмент SchemaHero для управления миграциями схем баз данных, который преобразует определение схемы в миграционные скрипты, применимые в любой среде. Он представлен как утилита командной строки и как оператор Kubernetes.

@DevOpsKaz 😛

ℹ️ Реклама

🔥 Cloupard ұйымдастырған онлайн-митаптар сериясы жалғасуда!

Cloupard-тың KVM платформасы туралы екінші митапқа қосылыңыз және жаңа виртуализация платформасы жайлы барлық ақпаратты алыңыз!

🗓 Күні: 2024 жыл 4-желтоқсан
🕒 Уақыты: 15:00 (GMT+5)
📍 Формат: онлайн
🔗 Тіркелу: сілтеме арқылы

➡️ Сізді не күтуде:

🔜 Бағдарламалық жасақтама әзірлеушілеріне, IT-аутсорсерлеріне және жүйелік интеграторларға арналған өзекті митап.
🔜 KVM платформасына шолу және практикалық демонстрация: негізгі мүмкіндіктер мен қолдану сценарийлері.
🔜 Cloupard сервистерін тестілеу үшін қатысушыларға 350 000 теңге грант!

🚀 Дәл қазір тіркеліңіз!

Қызықты, пайдалы және танымдық шара болады. Сіздерді асыға күтеміз! 🙌

➖➖➖➖➖➖➖➖➖➖

🔥 Серия онлайн-митапов от Cloupard продолжается!

Присоединяйтесь ко второму митапу Платформа KVM от Cloupard и узнайте все о новой платформе виртуализации!

🗓 Дата: 4 декабря 2024 года
🕒 Время: 15:00 (GMT+5)
📍 Формат: онлайн
🔗 Регистрация: по ссылке

➡️ Что вас ждёт:

🔜 Актуальный митап для разработчиков ПО, IT-аутсорсеров и системных интеграторов.
🔜 Обзор и практическая демонстрация платформы KVM: основные возможности и сценарии использования.
🔜 Грант 350 000 тенге для участников на тестирование сервисов Cloupard!

🚀 Регистрируйтесь прямо сейчас!

Будет интересно, полезно и познавательно. Мы ждём вас! 🙌

#рекламный_пост

🔥 Книга Linux. Командная строка — 2023 года

Если вы системный администратор, разработчик программного обеспечения, SRE-инженер или пользователь Linux, книга поможет вам работать быстрее, элегантнее и эффективнее.

👉 Скачать книгу

Вы научитесь создавать и запускать сложные команды, которые решают реальные бизнес-задачи, обрабатывать и извлекать информацию, а также автоматизировать ручную работу. Узнаете, что происходит внутри командной оболочки Linux.

Вне зависимости от используемых команд, вы повысите эффективность работы в Linux и станете более конкурентоспособным специалистом.

Читайте и делитесь с коллегами 🫡

@DevOpsKaz 😛

☄️ Кибер-понедельник от The Linux Foundation

До 11 декабря вы можете получить скидку 65% на сертификацию от The Linux Foundation и подписку THRIVE (дает доступ ко всем обучающим программам).

Всего более 150 скидочных предложений — разве не праздник? 🔥

Пользуйтесь и делитесь с коллегами 🫡

#kubernetes #cka #ckad #cks #k8s #linuxfoundation #cncf

@DevOpsKaz 😛