DATABASE DESIGN – Telegram
DATABASE DESIGN
1.41K subscribers
2.08K photos
3 videos
5.32K links
Лучшие материалы по работе с хранилищами данных на русском и английском языке

Разместить рекламу: @tproger_sales_bot

Правила общения: https://tprg.ru/rules

Другие каналы: @tproger_channels

Другие наши проекты: https://tprg.ru/media
Download Telegram
Как успешно мигрировать с Oracle на Postgres Pro Enterprise

Миграция с Oracle в «ванильный» PostgreSQL ломается на пакетах, автономных транзакциях и коллекциях — там их просто нет. Разбираем, почему ora2pg спотыкается, что дает нативная реализация этих механизмов в Postgres Pro Enterprise и как ora2pgpro переводит PL/SQL семантически точно, без костылей и регулярок.


Читать: https://habr.com/ru/companies/postgrespro/articles/940836/

#ru

@database_design | Другие наши каналы
Записки оптимизатора 1С (ч.13). Что не так в журнале регистрации 1С в формате SQLite?

Хочу вернуться к старой проблеме с хранением журнала регистрации 1С в формате SQLite. История стара как мир, но мы нет-нет, а продолжаем с ней сталкиваться, поскольку очень часто большие информационные системы работают далеко не на самых свежих версиях платформы 1С, а администраторы системы не уследили за форматом хранения журнала регистрации (ЖР).

Наглядно посмотрим к чему может приводить ЖР в формате SQLite в многопользовательской нагруженной системе, а также выясним как администраторам и разработчикам понять, что проблема просадки производительности связана с чтением ЖР.


Читать: https://habr.com/ru/companies/softpoint/articles/941666/

#ru

@database_design | Другие наши каналы
Разбираемся с ReplacingMergeTree в ClickHouse

В мире систем обработки данных редко встречаются инструменты, которые одновременно просты в использовании и решают болезненные задачи архитекторов и инженеров. ReplacingMergeTree в ClickHouse — один из таких случаев. Этот движок берёт на себя рутину по дедупликации и обновлению строк, позволяя хранить только актуальные версии данных без лишних костылей. Как он работает на практике, зачем нужен ORDER BY, чем помогает столбец version и какие подводные камни могут ждать при проектировании — разбираем в статье.


Читать: https://habr.com/ru/companies/otus/articles/940894/

#ru

@database_design | Другие наши каналы
Новый релиз MariaDB Enterprise Kubernetes Operator автоматизирует управление базами данных в Kubernetes, упрощая задачи резервного копирования и восстановления. Это делает работу с данными более надежной и эффективной, ускоряя разработку приложений. Подробнее по ссылке.

Читать подробнее

#en

@database_design | Другие наши каналы
Сравнение транзакционных систем Oracle и PostgreSQL

Механизм реализации транзакций - основная часть реляционных баз данных. Он упрощает разработку приложений, в которых гарантируется целостность данных. Стандарт SQL регламентирует, часть свойств по поддержке транзакций, но многие детали не стандартизованы. Как следствие, реализация поддержки транзакций в разных базах данных может существенно различаться. В настоящее время, многие пытаются перейти с Oracle на PostgreSQL. Для миграции приложений важно понимать различия в реализации работы транзакций, иначе можно столкнуться с неприятными сюрпризами, которые могут поставить под угрозу производительность и целостность данных. Поэтому я решил, что полезно сравнить реализацию работы транзакций в Oracle и PostgreSQL и свести различия в одной статье.


Читать: https://habr.com/ru/articles/942242/

#ru

@database_design | Другие наши каналы
Уровни изоляции транзакций для собеседования и работы

Уровни изоляции транзакций – один из частых вопросов на собеседовании. Есть мнение, что один раз настроил и не вмешиваешься, но на практике не всегда так. Участвовал в нескольких проектах, где не знание уровней изоляции привело к трудноуловимым ошибкам и искажениям данных. В какой ситуации какой уровень изоляции лучше - разбираем в статье.


Читать: https://habr.com/ru/articles/942394/

#ru

@database_design | Другие наши каналы
Уровни изоляции транзакций для собеседования и работы

Уровни изоляции транзакций – один из частых вопросов на собеседовании. Есть мнение, что один раз настроил и не вмешиваешься, но на практике не всегда так. Участвовал в нескольких проектах, где не знание уровней изоляции привело к трудноуловимым ошибкам и искажениям данных. В какой ситуации какой уровень изоляции лучше - разбираем в статье.


Читать: https://habr.com/ru/articles/942394/

#ru

@database_design | Другие наши каналы
От многопоточности в ОС до «простукивания портов»: избранное у нас на DIY-площадке

Мы в Beeline Cloud развиваем площадку для обмена опытом между ИТ-специалистами — «вАЙТИ». Делимся техническими материалами, которые могут быть полезны хабражителям: как перекинуть два терабайта данных между дата-центрами за шесть часов, как перевести почту на локальный сервер Postfix, а также — какие SQL-запросы могли бы помочь Остапу Бендеру найти заветные стулья... (и другие материалы).


Читать: https://habr.com/ru/companies/beeline_cloud/articles/942446/

#ru

@database_design | Другие наши каналы
От многопоточности в ОС до «простукивания портов»: избранные материалы у нас на DIY-площадке

Мы в Beeline Cloud развиваем площадку для обмена опытом между ИТ-специалистами — «вАЙТИ». Делимся техническими материалами, которые могут быть полезны хабражителям: как перекинуть два терабайта данных между дата-центрами за шесть часов, как перевести почту на локальный сервер Postfix, а также — какие SQL-запросы могли бы помочь Остапу Бендеру найти заветные стулья... (и другие материалы).


Читать: https://habr.com/ru/companies/beeline_cloud/articles/942446/

#ru

@database_design | Другие наши каналы
UltraRAM: память, которая меняет правила игры

Память в компьютерах и гаджетах много лет делится на два направления. DRAM — быстрая, но требует постоянного питания. NAND-флеш — надежная и долговечная, зато ощутимо медленнее. Инженеры десятилетиями мечтали о «золотой середине», которая объединит лучшее из обоих подходов.

И похоже, такая технология наконец появилась. UltraRAM обещает скорость на уровне DRAM, энергонезависимость и долговечность, в разы превосходящую NAND, причем с расчетным сроком хранения данных до тысячи лет. Давайте разбираться, как она устроена, какие возможности открывает и почему способна перевернуть рынок вычислений.


Читать: https://habr.com/ru/companies/ru_mts/articles/942150/

#ru

@database_design | Другие наши каналы
YDB в мире Java: от нативного клиента до ORM’ов за 1 год

Популярность баз данных и языков программирования определяется не только их собственными характеристиками, но и ассортиментом доступных для разработчиков библиотек и фреймворков.

Меня зовут Кирилл Курдюков, в 2024 году я выступил в Питере на Joker — конференции для Java-разработчиков — с историей о том, как мы с командой делаем СУБД Яндекса удобной для джавистов.

Под катом статья, написанная по мотивам доклада. Это история о том, как маленькими шагами пройти путь от нативного клиента на Java до поддержки Hibernate, Liquibase, jOOQ и других популярных в мире Java-разработки решений.


Читать: https://habr.com/ru/companies/ydb/articles/942672/

#ru

@database_design | Другие наши каналы
Устраиваем свой Data QA с PyTest и фикстурами

Рабочий подход к тестированию трансформации данных в ETL-процессах. На примере Python-проекта с pytest, allure и psycopg2 демонстрируется, как автоматизировать создание и наполнение таблиц, хранить схемы и данные, а затем сравнивать результат.

Читать: «Устраиваем свой Data QA с PyTest и фикстурами»

#ru

@database_design | Другие наши каналы
Новая версия Oracle Data Masking в Enterprise Manager 24ai включает более 150 новых типов чувствительных данных и автоматически задаёт формат маскировки. Это значительно снижает трудозатраты при создании правил защиты данных. Подробности в статье.

Читать подробнее

#en

@database_design | Другие наши каналы
Как мониторить сотни инстансов PostgreSQL и не сойти с ума

Если вы инженер в крупной компании, а особенно если ваша организация поставляет свои услуги в виде SaaS-решений, то вам так или иначе придется решать задачу мониторинга работы всех ваших баз PostgreSQL. На них часто бывает завязан функционал, важный для компании с точки зрения финансовых рисков, поэтому крайне желательно организовать не только мониторинг, но и получение уведомлений, когда что-то идет не по плану (или пойдет в ближайшем будущем). В рамках статьи мы рассмотрим несколько способов, как это можно сделать: самостоятельно, с использованием уже привычного стека Prometheus + Grafana, либо подключая сторонние open-source специализированные решения для мониторинга PostgreSQL, либо же используя специализированные платные решения. По каждому варианту поймем все плюсы и минусы, чтобы вы cмогли более уверенно выбрать свой путь.


Читать: https://habr.com/ru/companies/tantor/articles/940752/

#ru

@database_design | Другие наши каналы
Сравнение транзакционных систем Oracle и PostgreSQL

Механизм реализации транзакций - основная часть реляционных баз данных. Он упрощает разработку приложений, в которых гарантируется целостность данных. Стандарт SQL регламентирует, часть свойств по поддержке транзакций, но многие детали не стандартизованы. Как следствие, реализация поддержки транзакций в разных базах данных может существенно различаться. В настоящее время, многие пытаются перейти с Oracle на PostgreSQL. Для миграции приложений важно понимать различия в реализации работы транзакций, иначе можно столкнуться с неприятными сюрпризами, которые могут поставить под угрозу производительность и целостность данных. Поэтому Лоренс Альбе решил, что полезно сравнить реализацию работы транзакций в Oracle и PostgreSQL и свести различия в одной статье.


Читать: https://habr.com/ru/companies/tantor/articles/942242/

#ru

@database_design | Другие наши каналы
Что такое снапшоты в СХД и как мы их реализовали в TATLIN.BACKUP

Еще год назад мы считали, что снапшоты без репликации не являются приоритетом для нашей команды. Но практика показала обратное: вирусы-шифровальщики, сбои и ошибки могут повредить резервные копии и нарушить их целостность. Чтобы защитить данные и дать возможность быстро восстановить их в неизменном виде, мы реализовали поддержку снапшотов в TATLIN.BACKUP. Новый функционал уже доказал свою эффективность и получил положительные отзывы клиентов.

Меня зовут Ростислав, я эксперт по разработке ПО отдела систем обработки данных в YADRO. Сегодня разберемся, как устроены наши снапшоты и какие у них особенности. Для этого совершим экскурс в мир систем хранения данных (СХД) и рассмотрим их устройство.


Читать: https://habr.com/ru/companies/yadro/articles/941358/

#ru

@database_design | Другие наши каналы
Django MongoDB Backend: новая эра для разработчиков Django
Теперь интеграция MongoDB с Django доступна в стабильной версии. Это решает задачи гибкости документной модели MongoDB и привычного ORM Django, позволяя масштабировать приложения на любой облачной платформе. Как AI и MongoDB меняют редакционные процессы
Комбинация генеративного ИИ и гибких баз данных MongoDB помогает редакциям быстро находить тренды и создавать качественный контент. Такой подход снижает творческую усталость и ускоряет процесс от идеи до готовой статьи, обеспечивая надежность источников.

Читать подробнее

#en

@database_design | Другие наши каналы
Проекции в Vertica: что это, как использовать и почему не стоит создавать их под каждый запрос

Иван Якунин, продуктовый аналитик команды Fintech Marketplace, рассказал про то, как в Авито работают с Vertica, и на примерах объяснил, что такое проекции, и когда их стоит использовать.

Читать: «Проекции в Vertica: что это, как использовать и почему не стоит создавать их под каждый запрос»

#ru

@database_design | Другие наши каналы
Пять возможностей PostgreSQL, о которых редко вспоминают

Привет, Хабр!

Постгрес – не просто реляционная БД, а настоящий кладезь фич, о которых начинающий разработчик может и не догадываться. Всё началось с того, что PostgreSQL изначально писался на С/C++ и всегда тянуло к расширению стандартного SQL набора возможностей. Так однажды разработчики решили добавить в него JSONB, логику на уровне запросов и многое другое – что в итоге сделало его не хуже NoSQL-систем. Но вернёмся к малоизвестным фичам. Ниже – пять приёмов и возможностей, которые неожиданно полезны в повседневной работе.


Читать: https://habr.com/ru/companies/otus/articles/941456/

#ru

@database_design | Другие наши каналы
Новый федеральный закон в США открывает путь для выпуска стейблкоинов банками и интеграции с платёжными системами. MongoDB помогает создавать масштабируемые и безопасные банковские решения для работы с цифровыми активами, обеспечивая гибкость и соответствие новым требованиям. Новый Django MongoDB Backend объединяет удобство Django с гибкой документной моделью MongoDB. Это решение поддерживает знакомый ORM и масштабируется на облаках AWS, Google и Azure, упрощая разработку AI-приложений и быстрый выпуск продуктов без потери производительности.

Читать подробнее

#en

@database_design | Другие наши каналы
SPDK в публичном облаке: лезем внутрь дисковой подсистемы в user-space

Всем привет! Меня зовут Василий Иванов, я ведущий разработчик в команде Data Storage в MWS Cloud Platform, занимаюсь тем, чтобы диски наших виртуальных машин были надёжные и быстрые.

В этой статье я расскажу, как данные попадают из виртуальной машины в хранилище. Рассмотрим, как мы используем SPDK, зачем мы вообще взялись за этот низкоуровневый фреймворк, а также почему просто «заиспользовать» не получилось и пришлось копать, как всё устроено в самой глубине. Также мы увидим, как high performance фреймворка при нашем количестве устройств не хватало и какие доработки пришлось сделать.

Эта статья выходит по следам моего доклада на летнем Highload 2025 года.


Читать: https://habr.com/ru/companies/mws/articles/943206/

#ru

@database_design | Другие наши каналы