Нияз Хадимуллин | Ментор по GO – Telegram
Нияз Хадимуллин | Ментор по GO
1.2K subscribers
138 photos
1 video
35 links
Авторский канал ментора Нияза про Go, базы данных и разработку

Если хочешь записаться на моё менторство и начать получать офферы, не стесняйся писать мне https://mentor-niyaz.ru
Download Telegram
🛠️ Prometheus + Grafana: что это и зачем они нужны?

Что такое Prometheus и Grafana?

Prometheus — это система мониторинга и сбора метрик, а Grafana — инструмент для визуализации этих метрик. Вместе они образуют мощный стек для мониторинга и анализа производительности.

💡 Как работает Prometheus + Grafana?
- Prometheus: Собирает метрики через pull-модель, хранит их в временной базе данных.
- Grafana: Визуализирует метрики в виде графиков, диаграмм и дашбордов.

⚠️ Когда использовать Prometheus + Grafana?
- Для мониторинга инфраструктуры и приложений в реальном времени.
- Когда требуется гибкость в настройке и визуализации метрик.

🎯 Prometheus + Grafana — это идеальный инструмент для мониторинга и анализа производительности.
🛠️ ELK стек: что это и зачем он нужен?

Что такое ELK стек?

ELK стек — это набор инструментов для сбора, хранения и анализа логов. Он состоит из трех компонентов: Elasticsearch, Logstash и Kibana.

💡 Как работает ELK стек?
- Logstash: Собирает и обрабатывает логи.
- Elasticsearch: Хранит и индексирует логи для быстрого поиска.
- Kibana: Визуализирует логи и предоставляет интерфейс для анализа.

⚠️ Когда использовать ELK стек?
- Для централизованного сбора и анализа логов в распределенных системах.
- Когда требуется быстрый поиск и визуализация логов.

🎯 ELK стек — это мощный инструмент для анализа и визуализации логов.
🛠️ Как обнаруживать data race в Go?

Что такое data race?

Data race — это ситуация, когда две или более горутины одновременно обращаются к одной переменной, и хотя бы одна из них выполняет запись. Это может привести к непредсказуемым результатам.

💡 Как обнаружить data race в Go?
- Использование `-race` флага: При запуске программы с флагом -race Go автоматически проверяет наличие data race.
- Анализ кода: Внимательно проверяйте места, где используются общие ресурсы и мьютексы.

⚠️ Когда проверять на data race?
- При разработке многопоточных приложений.
- При использовании общих ресурсов между горутинами.

🎯 Обнаружение data race — это важный этап разработки многопоточных приложений в Go.
🛠️ Процентили в HTTP-запросах: что это и как использовать?

Что такое процентили?

Процентили — это метрики, которые показывают, какой процент запросов выполняется быстрее определенного времени. Например, 95-й процентиль означает, что 95% запросов выполнились быстрее указанного времени.

💡 Как использовать процентили в Go?
- Сбор метрик: Используйте библиотеки, такие как Prometheus, для сбора времени выполнения запросов.
- Анализ процентилей: Визуализируйте процентили в Grafana или других инструментах.
- Оптимизация: Используйте процентили для поиска узких мест и оптимизации производительности.

⚠️ Когда использовать процентили?
- Для анализа производительности API и HTTP-запросов.
- Когда важно понимать, как ведут себя "худшие" запросы (например, 99-й процентиль).

Минусы процентилей:
- Сложность интерпретации: Требуется опыт для анализа и понимания метрик.
- Накладные расходы: Сбор и анализ процентилей может увеличить нагрузку на систему.

🎯 Процентили — это важный инструмент для анализа и оптимизации производительности HTTP-запросов в Go.
🛠️ Firebase и Go: интеграция и использование

Что такое Firebase?

Firebase — это платформа для разработки мобильных и веб-приложений, предоставляющая такие сервисы, как база данных в реальном времени, аутентификация, хостинг и аналитика. В Go Firebase можно использовать для интеграции с этими сервисами.

💡 Как интегрировать Firebase с Go?
- Firebase Realtime Database: Используйте библиотеку firebase-admin-go для работы с базой данных в реальном времени.
- Firebase Authentication: Интегрируйте аутентификацию через JWT-токены.
- Firebase Cloud Messaging: Отправляйте push-уведомления через Go-клиент.

⚠️ Когда использовать Firebase с Go?
- Для быстрого прототипирования приложений с бэкендом на Go.
- Когда требуется интеграция с мобильными приложениями.

Минусы Firebase:
- Ограничения по кастомизации: Firebase предоставляет готовые решения, которые могут не подходить для сложных сценариев.
- Зависимость от Google: Firebase — это проприетарная платформа, что может быть ограничением для некоторых проектов.

🎯 Firebase и Go — это мощная комбинация для быстрой разработки и интеграции с мобильными приложениями.
🛠️ pprof и профилирование в Go

Что такое pprof?

pprof — это инструмент для профилирования и анализа производительности Go-приложений. Он помогает находить узкие места в коде, такие как утечки памяти, высокую загрузку CPU и блокировки.

💡 Как использовать pprof?
- CPU профилирование: Запустите
go tool pprof http://localhost:6060/debug/pprof/profile

для анализа загрузки CPU.
- Memory профилирование: Используйте
go tool pprof http://localhost:6060/debug/pprof/heap

для анализа использования памяти.
- Goroutine профилирование: Анализируйте горутины с помощью
go tool pprof http://localhost:6060/debug/pprof/goroutine


⚠️ Когда использовать pprof?
- Для оптимизации производительности приложения.
- Для поиска утечек памяти и блокировок.

Минусы pprof:
- Накладные расходы: Профилирование может замедлить выполнение программы.
- Сложность интерпретации: Требуется опыт для анализа результатов профилирования.

🎯 pprof — это незаменимый инструмент для анализа и оптимизации производительности Go-приложений.
🛠️ Трейсинг в Go: что это и как использовать?

Что такое трейсинг?

Трейсинг — это процесс отслеживания выполнения запросов в распределенных системах. В Go трейсинг можно реализовать с помощью библиотек, таких как OpenTelemetry или Jaeger.

💡 Как реализовать трейсинг в Go?
- OpenTelemetry: Используйте библиотеку для создания трейсов и их экспорта в системы мониторинга.
- Jaeger: Интегрируйте Jaeger для визуализации трейсов и анализа производительности.
- Контекст: Передавайте контекст между горутинами для сохранения трейсов.

⚠️ Когда использовать трейсинг?
- В микросервисных архитектурах для отслеживания запросов между сервисами.
- Для анализа производительности и поиска узких мест.

Минусы трейсинга:
- Накладные расходы: Трейсинг может увеличить нагрузку на систему.
- Сложность настройки: Требуется время для интеграции и настройки.

🎯 Трейсинг — это мощный инструмент для анализа и оптимизации распределенных систем на Go
🛠️ SRE (Site Reliability Engineering) и Go

Что такое SRE?

SRE (Site Reliability Engineering) — это подход к управлению инфраструктурой и обеспечению надежности систем. В Go SRE-практики могут быть реализованы через мониторинг, автоматизацию и управление инцидентами.

💡 Как использовать Go в SRE?
- Мониторинг: Используйте Prometheus и Grafana для сбора и визуализации метрик.
- Автоматизация: Пишите скрипты на Go для автоматизации рутинных задач, таких как деплой и масштабирование.
- Управление инцидентами: Интегрируйте Go-приложения с системами оповещения, такими как PagerDuty.

⚠️ Когда использовать SRE-практики?
- В высоконагруженных системах, где важна надежность и доступность.
- Для автоматизации процессов и снижения операционных затрат.

Минусы SRE:
- Высокие требования к навыкам: Требуется опыт в разработке и эксплуатации.
- Сложность внедрения: Требуется время для внедрения и настройки процессов.

🎯 SRE и Go — это мощная комбинация для создания надежных и масштабируемых систем
🛠️ Redis Pub/Sub: что это и как использовать?

Что такое Redis Pub/Sub?

Redis Pub/Sub (Publish/Subscribe) — это механизм для реализации шаблона обмена сообщениями, где издатели (publishers) отправляют сообщения в каналы, а подписчики (subscribers) получают эти сообщения.

💡 Как работает Redis Pub/Sub?
- Издатель: Отправляет сообщение в канал с помощью команды PUBLISH channel message.
- Подписчик: Подписывается на канал с помощью команды SUBSCRIBE channel и получает сообщения в реальном времени.
- Каналы: Сообщения отправляются только тем подписчикам, которые подписаны на соответствующий канал.

⚠️ Когда использовать Redis Pub/Sub?
- Для реализации чатов, уведомлений или событий в реальном времени.
- В системах, где требуется быстрый обмен сообщениями между компонентами.

Минусы Redis Pub/Sub:
- Нет гарантии доставки: Если подписчик отключен, он не получит пропущенные сообщения.
- Ограниченная масштабируемость: При большом количестве подписчиков Redis может испытывать нагрузку.

🎯 Redis Pub/Sub — это простой и эффективный способ реализации обмена сообщениями в реальном времени.
2
🛠️ Порядок выполнения SQL-операторов

Как выполняются SQL-операторы?

SQL-операторы выполняются в определенном порядке, который влияет на результат запроса. Понимание этого порядка помогает писать эффективные и предсказуемые запросы.

💡 Порядок выполнения SQL-запроса:
1. FROM: Определяет таблицы, из которых выбираются данные.
2. WHERE: Фильтрует строки по условию.
3. GROUP BY: Группирует строки по указанным столбцам.
4. HAVING: Фильтрует группы по условию.
5. SELECT: Выбирает столбцы для вывода.
6. ORDER BY: Сортирует результат.
7. LIMIT/OFFSET: Ограничивает количество возвращаемых строк.

⚠️ Пример запроса:  SELECT name, COUNT(*) 
FROM users
WHERE age > 18
GROUP BY name
HAVING COUNT(*) > 1
ORDER BY name
LIMIT 10;

ВАЖНО: Порядок написания операторов в SQL-запросе (например, SELECT перед `FROM`) не совпадает с порядком их выполнения.

🎯 Понимание порядка выполнения SQL-операторов помогает писать эффективные и предсказуемые запросы.
1
🛠️ CAP теорема: что это и как она работает?

Что такое CAP теорема?

CAP теорема (Consistency, Availability, Partition Tolerance) — это принцип, который утверждает, что в распределенных системах можно гарантировать только два из трех свойств:
- Consistency (Согласованность): Все узлы видят одни и те же данные в одно и то же время.
- Availability (Доступность): Каждый запрос получает ответ, даже если некоторые узлы недоступны.
- Partition Tolerance (Устойчивость к разделению): Система продолжает работать, даже если связь между узлами нарушена.

💡 Как работает CAP теорема?
- В распределенных системах невозможно одновременно обеспечить все три свойства.
- Примеры:
- CP: Системы, которые жертвуют доступностью ради согласованности (например, базы данных с сильной согласованностью).
- AP: Системы, которые жертвуют согласованностью ради доступности (например, Cassandra).
- CA: Системы, которые жертвуют устойчивостью к разделению (например, традиционные SQL-базы данных).

⚠️ Когда учитывать CAP теорему?
- При проектировании распределенных систем.
- При выборе базы данных или архитектуры системы.

🎯 CAP теорема — это важный принцип для понимания компромиссов в распределенных системах.
1
🛠️ Стек, куча, два escape analysis в Go?

Что такое стек и куча?

- Стек: Это область памяти, где хранятся локальные переменные функций. Память на стеке выделяется и освобождается автоматически.
- Куча: Это область памяти для динамического выделения данных. Память в куче управляется вручную (или через сборщик мусора).

💡 Почему бы все не хранить на стеке или в куче?
- Стек: Быстрый, но ограниченный по размеру. Локальные переменные на стеке живут только во время выполнения функции.
- Куча: Подходит для больших данных и данных, которые должны жить дольше, чем время выполнения функции. Но управление памятью в куче медленнее.

💡 Что такое escape analysis в Go?
Escape analysis — это процесс, который определяет, может ли переменная "сбежать" за пределы функции. Если переменная "сбегает", она размещается в куче, иначе — на стеке.

func createSlice() *[]int {
s := make([]int, 100) // s "сбегает" из функции, поэтому размещается в куче
return &s
}

Почему важно разделение?
- Стек: Быстрый доступ, но ограниченный размер.
- Куча: Подходит для больших данных, но требует управления памятью.

🎯 Escape analysis в Go помогает оптимизировать использование памяти, автоматически решая, где размещать данные.
1
🛠️ Что вернут len и cap для мапы в Go?

Что такое len и cap?

- len: Возвращает количество элементов в коллекции (срезе, мапе, массиве, строке).
- cap: Возвращает емкость (вместимость) среза или массива.

💡 Что вернут len и cap для мапы?
- len(map): Вернет количество пар ключ-значение в мапе.
- cap(map): Для мапы функция cap не применима. Попытка использовать cap вызовет ошибку компиляции.

m := map[string]int{"a": 1, "b": 2}
fmt.Println(len(m)) // 2
fmt.Println(cap(m)) // Ошибка: invalid argument m (type map[string]int) for cap


Почему cap не работает для мапы?
Мапа в Go — это динамическая структура данных, которая автоматически расширяется при добавлении элементов. Емкость мапы не фиксирована, поэтому cap для нее не имеет смысла.

🎯 Для мапы в Go используйте len, чтобы узнать количество элементов, а cap не применим.
1
🛠️ Система типов в Go

Что такое система типов в Go?

Система типов в Go — это набор правил и механизмов, которые определяют, как типы данных используются в языке. Go имеет статическую типизацию, что означает, что типы проверяются на этапе компиляции.

💡 Основные особенности системы типов в Go:
- Статическая типизация: Типы переменных известны на этапе компиляции.
- Простота: Go имеет небольшое количество встроенных типов (int, float64, string, bool и т.д.).
- Структуры и интерфейсы: Пользовательские типы создаются с помощью структур и интерфейсов.
- Типизация без наследования: В Go нет классического наследования, вместо этого используются интерфейсы и композиция.

💡 Примеры типов в Go:
- Базовые типы: int, float64, string, bool.
- Структуры:
   type Person struct {
Name string
Age int
}

- Интерфейсы:
   type Speaker interface {
Speak() string
}


⚠️ Когда использовать систему типов в Go?
- Для обеспечения безопасности типов на этапе компиляции.
- Для создания гибких и модульных программ с использованием интерфейсов.

🎯 Система типов в Go — это мощный инструмент для создания безопасных и эффективных программ.
1
🛠️ Кодогенерация в Go

Что такое кодогенерация в Go?

Кодогенерация — это процесс автоматического создания кода на основе шаблонов или метаданных. В Go кодогенерация часто используется для создания boilerplate-кода, такого как сериализаторы, валидаторы или клиенты API.

💡 Как работает кодогенерация в Go?
- Инструменты: Используйте go generate для запуска кодогенерации.
- Генераторы: Популярные инструменты, такие как stringer, protoc (для gRPC), или go-swagger (для OpenAPI).
- Пример:
   //go:generate stringer -type=Status
type Status int

const (
Pending Status = iota
Completed
Failed
)

После выполнения go generate будет создан файл с методами для типа Status.

⚠️ Когда использовать кодогенерацию?
- Для автоматизации рутинных задач, таких как создание сериализаторов или клиентов API.
- Когда требуется высокая производительность и минимизация ошибок.

🎯 Кодогенерация в Go — это мощный способ автоматизации и повышения производительности разработки.
1
🛠️ Рефлексия в Go

Что такое рефлексия в Go?

Рефлексия — это механизм, позволяющий программе анализировать и изменять свою структуру и поведение во время выполнения. В Go рефлексия реализована через пакет reflect.

💡 Как использовать рефлексию в Go?
- Анализ типов: Используйте reflect.TypeOf для получения информации о типе переменной.
- Анализ значений: Используйте reflect.ValueOf для получения значения переменной и его изменения.

- Пример:
package main

import (
"fmt"
"reflect"
)

func main() {
x := 42
v := reflect.ValueOf(x)
fmt.Println("Type:", v.Type()) // Type: int
fmt.Println("Value:", v.Int()) // Value: 42
}


⚠️ Когда использовать рефлексию?
- Для создания универсальных функций, таких как сериализаторы или валидаторы.
- Когда требуется динамическое поведение, например, вызов методов по имени.

Минусы рефлексии:
- Производительность: Рефлексия медленнее по сравнению с обычным кодом.

🎯 Рефлексия в Go — это мощный инструмент для создания гибких и динамических программ, но ее следует использовать с осторожностью.
1
🛠️ Паттерн SAGA: что это и зачем он нужен?

Что такое паттерн SAGA?

SAGA — это паттерн для управления длительными транзакциями в распределенных системах. Он разбивает одну большую транзакцию на несколько меньших шагов, каждый из которых может быть откатан в случае ошибки.

💡 Как работает паттерн SAGA?
1. Шаги транзакции: Каждый шаг выполняется как отдельная транзакция.
2. Компенсационные действия: Для каждого шага определяется компенсационное действие, которое откатывает изменения в случае ошибки.
3. Оркестрация: Управление шагами может быть централизованным (через оркестратор) или децентрализованным (через события).

⚠️ Когда использовать паттерн SAGA?
- В микросервисных архитектурах, где невозможно использовать распределенные транзакции (например, 2PC).
- Когда требуется управление длительными транзакциями с возможностью отката.

🎯 Паттерн SAGA — это мощный инструмент для управления сложными транзакциями в распределенных системах.
🔥21👍177
🛠️ Паттерн Outbox: что это и зачем он нужен?

Что такое паттерн Outbox?

Паттерн Outbox — это подход к обеспечению надежной доставки сообщений в распределенных системах. Он используется для гарантии того, что сообщения, отправленные в рамках транзакции, будут доставлены даже в случае сбоев.

💡 Как работает паттерн Outbox?
1. Локальная транзакция: Сообщение сохраняется в локальной таблице (Outbox) в рамках той же транзакции, что и основная операция.
2. Фоновая отправка: Отдельный процесс (например, фоновый воркер) читает сообщения из Outbox и отправляет их в брокер сообщений (например, Kafka или RabbitMQ).
3. Гарантия доставки: Если система падает до отправки сообщения, оно остается в Outbox и будет отправлено после восстановления.

⚠️ Когда использовать паттерн Outbox?
- В микросервисных архитектурах, где важна надежная доставка сообщений.
- Когда требуется гарантия, что сообщения не будут потеряны даже при сбоях.

🎯 Паттерн Outbox — это надежный способ обеспечения доставки сообщений в распределенных системах.
33👍24🔥18
🛡 Ory Hydra и Ory Kratos: аутентификация и управление пользователями

Что это такое?
Ory Hydra и Ory Kratos — это инструменты для управления аутентификацией и авторизацией в современных веб-приложениях.

💡 Ory Hydra:
Принципы:
- OAuth 2.0 и OpenID Connect
- Поддержка масштабируемых распределённых систем
- Не управляет пользователями напрямую (делегирует аутентификацию)
- Подходит для микросервисов и API

💡 Ory Kratos:
Принципы:
- Управление пользователями и их сессиями
- Поддержка passwordless, 2FA и других механизмов входа
- Открытая и гибкая архитектура
- Подходит для веб-приложений с кастомной аутентификацией

⚠️ Подробности:
Ory Hydra работает как провайдер авторизации:
- Выдает токены OAuth 2.0 (access, refresh, ID-токены)
- Делегирует аутентификацию внешнему сервису
- Хороший выбор для API-first приложений

hydra token client --client-id my-client --client-secret secret


Ory Kratos управляет пользователями и их входом:
- Может работать с паролями, magic links, социальными логинами
- Хранит пользователей и управляет их состоянием
- Хорош для сайтов и сервисов с кастомной аутентификацией

{
"identity": {
"traits": {
"email": "user@example.com"
}
}
}


🔍 Ключевое различие:
- Hydra управляет авторизацией через OAuth 2.0
- Kratos управляет пользователями и их входом
🔥3223👍21
🔑 OAuth, SAML, Session-based Authentication, JWT: как аутентифицироваться?

В чём разница?
Эти механизмы используются для проверки личности пользователя и управления доступом, но работают по-разному.

💡 OAuth:
- Делегированная авторизация
- Используется для входа через Google, Facebook и другие провайдеры
- Выдаёт токены доступа для API

💡 SAML:
- XML-основанный протокол аутентификации
- Чаще используется в корпоративных системах (SSO, Active Directory)
- Более сложный, но мощный

💡 Session-based Authentication:
- Хранит сессию пользователя на сервере
- Используется в традиционных веб-приложениях
- Требует stateful-сервера

💡 JWT (JSON Web Token):
- Структурированный токен с цифровой подписью
- Может использоваться в OAuth, OpenID Connect
- Не требует хранения сессии на сервере

⚠️ Подробности:
OAuth → Клиент перенаправляет пользователя на сторонний сервис (например, Google), получает токен и использует его для доступа к API.

{
"access_token": "eyJhbGciOiJIUzI1NiIs...",
"expires_in": 3600
}


SAML → Браузер получает SAML-токен от провайдера и передаёт его в сервис для входа.

Session-based → При входе сервер создаёт сессию и отправляет cookie с session_id.

JWT → Сервер генерирует токен с информацией о пользователе и подписью, который можно валидировать без запроса к базе данных.

🔍 Ключевое различие:
- OAuth и SAML подходят для SSO
- Session-based используется в классических веб-приложениях
- JWT удобен для API и микросервисов
👍3423🔥7
🔍 Обратные индексы в ElasticSearch: как искать быстро?

Как это работает?
Обратный индекс — это структура данных, которая позволяет быстро находить документы по словам.

💡 Принципы:
1. Разбивает текст на токены (слова)
2. Создаёт индекс, где каждому слову соответствуют документы
3. Позволяет искать по терминам, синонимам, морфологии

⚠️ Подробности:
Допустим, у нас есть три документа:
1️⃣ "Кот любит рыбу"
2️⃣ "Собака любит кости"
3️⃣ "Кот и собака дружат"

Обратный индекс будет выглядеть так:
{
"кот": [1, 3],
"любит": [1, 2],
"рыбу": [1],
"собака": [2, 3],
"кости": [2],
"дружат": [3]
}


При запросе "кот" мы сразу получим документы [1, 3], без перебора всех записей.

Пример запроса в Elasticsearch:
{
"query": {
"match": {
"text": "кот"
}
}
}
🔥50👍134