Как настроить резервное копирование в объектное хранилище с помощью Restic
В 2007 многие администраторы настраивали бэкапы с помощью утилиты rsync, но для этого нужно было выделять отдельный хост для хранилища. И одной из частых проблем было резервирование этого сервера для бэкапов, которое увеличивало накладные расходы. Также хост бэкапирования располагался рядом с устройствами, для которых нужно было выполнить резервное копирование, настроить мониторинг и другое. Это нарушало правило 3-2-1, поэтому для построения действительно надежной системы нужно располагать хосты в разных дата-центрах.
Сегодня можно прибегнуть к услугам облачного хранения данных — например, использовать объектное хранилище Selectel. В этой инструкции рассмотрим, как работать с ним с помощью утилиты Restic.
Читать: https://habr.com/ru/companies/selectel/articles/768014/
В 2007 многие администраторы настраивали бэкапы с помощью утилиты rsync, но для этого нужно было выделять отдельный хост для хранилища. И одной из частых проблем было резервирование этого сервера для бэкапов, которое увеличивало накладные расходы. Также хост бэкапирования располагался рядом с устройствами, для которых нужно было выполнить резервное копирование, настроить мониторинг и другое. Это нарушало правило 3-2-1, поэтому для построения действительно надежной системы нужно располагать хосты в разных дата-центрах.
Сегодня можно прибегнуть к услугам облачного хранения данных — например, использовать объектное хранилище Selectel. В этой инструкции рассмотрим, как работать с ним с помощью утилиты Restic.
Читать: https://habr.com/ru/companies/selectel/articles/768014/
Простой ORM для sqlite3
ORM, или объектно-реляционное отображение — это программная технология, которая позволяет взаимодействовать с базами данных с использованием объектно-ориентированной парадигмы. Вместо того чтобы писать SQL-запросы напрямую для работы с данными в базе данных, можно использовать ORM, чтобы взаимодействовать с данными, как если бы они были объектами в вашем коде.
Не бывало ли вам интересно, как работает изнутри такая идейно простая концепция? Благодаря чему достигается удобство работы? Сегодня мы напишем ORM самостоятельно и узнаем, какие инструменты python нам для этого понадобятся.
Читать: https://habr.com/ru/companies/ruvds/articles/766552/
ORM, или объектно-реляционное отображение — это программная технология, которая позволяет взаимодействовать с базами данных с использованием объектно-ориентированной парадигмы. Вместо того чтобы писать SQL-запросы напрямую для работы с данными в базе данных, можно использовать ORM, чтобы взаимодействовать с данными, как если бы они были объектами в вашем коде.
Не бывало ли вам интересно, как работает изнутри такая идейно простая концепция? Благодаря чему достигается удобство работы? Сегодня мы напишем ORM самостоятельно и узнаем, какие инструменты python нам для этого понадобятся.
Читать: https://habr.com/ru/companies/ruvds/articles/766552/
⚡1
Мой опыт использования платформы Tantor
И снова привет, хабр!
Вы когда-нибудь использовали СУБД PostgreSQL? Лично я привык к консольной утилите psql. Да, я слышал про pgadmin, navicat ну или DBeaver в конце концов, но вот руки до их использования у меня никак не доходили… до этого момента.
Иногда требования, предъявляемые решаемой задачей, могут выйти за пределы любимой командной строки, да и любому разработчику полезно выходить из зоны комфорта изучать новые технологии.
В одной такой задаче мне предстояло работать с несколькими базами данных одновременно: выполнять разные запросы к ним и смотреть аналитику, параллельно фильтровать несколько таблиц рядом. При этом мне бы хотелось видеть, как планировщик будет строить план этих запросов (на всякий случай).
Поверьте друзья, терминал с psql - это, конечно, хорошо, но делать кучу операций иногда неудобно даже с терминальным мультиплексором, например, tmux.
Учитывая все эти сложности, я занялся поиском подходящего инструмента. Так мне подвернулась возможность изучить платформу Tantor, и в этой статье я поведаю о своем опыте и расскажу, почему интерфейсы - это удобно.
Читать: https://habr.com/ru/articles/768152/
И снова привет, хабр!
Вы когда-нибудь использовали СУБД PostgreSQL? Лично я привык к консольной утилите psql. Да, я слышал про pgadmin, navicat ну или DBeaver в конце концов, но вот руки до их использования у меня никак не доходили… до этого момента.
Иногда требования, предъявляемые решаемой задачей, могут выйти за пределы любимой командной строки, да и любому разработчику полезно выходить из зоны комфорта изучать новые технологии.
В одной такой задаче мне предстояло работать с несколькими базами данных одновременно: выполнять разные запросы к ним и смотреть аналитику, параллельно фильтровать несколько таблиц рядом. При этом мне бы хотелось видеть, как планировщик будет строить план этих запросов (на всякий случай).
Поверьте друзья, терминал с psql - это, конечно, хорошо, но делать кучу операций иногда неудобно даже с терминальным мультиплексором, например, tmux.
Учитывая все эти сложности, я занялся поиском подходящего инструмента. Так мне подвернулась возможность изучить платформу Tantor, и в этой статье я поведаю о своем опыте и расскажу, почему интерфейсы - это удобно.
Читать: https://habr.com/ru/articles/768152/
Oracle Database Appliance X10 – Much More Powerful Database-Optimized Entry-Level Engineered Systems
We are excited to announce the next generation Oracle Database Appliance X10.
Read: https://blogs.oracle.com/oda/post/oracle-database-appliance-x10
We are excited to announce the next generation Oracle Database Appliance X10.
Read: https://blogs.oracle.com/oda/post/oracle-database-appliance-x10
Oracle
Oracle Database Appliance X10 – Much More Powerful Database-Optimized Entry-Level Engineered Systems
We are excited to announce the next generation Oracle Database Appliance X10.
Essential tools for migrating to the Oracle Autonomous Database
An overview of three essential Oracle tools that will help you migrate to the Oracle Autonomous Database: Estate Explorer, Cloud Premigration Advisor, and Real Application Testing
Read: https://blogs.oracle.com/cloud-infrastructure/post/migrate-autonomous-db-estate-explorer-cpat-rat
An overview of three essential Oracle tools that will help you migrate to the Oracle Autonomous Database: Estate Explorer, Cloud Premigration Advisor, and Real Application Testing
Read: https://blogs.oracle.com/cloud-infrastructure/post/migrate-autonomous-db-estate-explorer-cpat-rat
Oracle
Essential tools for migrating to the Oracle Autonomous Database
An overview of three essential Oracle tools that will help you migrate to the Oracle Autonomous Database: Estate Explorer, Cloud Premigration Advisor Tool (CPAT), and Real Application Testing (RAT)
Размерности качества данных: обеспечение качества данных с помощью Great Expectations
Качество данных играет критически важную роль в любом процессе управления данными. Организации используют данные для принятия решений и улучшения различных бизнес-показателей. Однако если данные усеяны неточностями, ошибками или несогласованностями, то они могут нанести больше вреда, чем пользы.
Согласно опросу Gartner за 2020 год, в среднем потери из-за низкого качества данных составляют примерно $12,8 миллиона за год. Как сообщается в последнем отчёте State of Data Quality, задержки продакшена (задержки с выпуском продукта) — характерный симптом низкого качества данных. Высококачественные и безошибочные данные повышают надёжность и верность полученных из них выводов.
Для повышения качества данных необходима система его оценки. В достижении этой цели вам помогут размерности качества данных. Размерности позволяют измерять покрытие и выявлять компоненты, требующие тестирования качества данных.
В этой статье рассматриваются шесть размерностей качества данных: полнота, согласованность, целостность, вневременная актуальность, уникальность и валидность. Определив их, вы сможете обеспечить исчерпывающее понимание качества данных и выявить аспекты, требующие совершенствования. И здесь нам на помощь приходит Great Expectation (GX).
Читать: https://habr.com/ru/articles/739254/
Качество данных играет критически важную роль в любом процессе управления данными. Организации используют данные для принятия решений и улучшения различных бизнес-показателей. Однако если данные усеяны неточностями, ошибками или несогласованностями, то они могут нанести больше вреда, чем пользы.
Согласно опросу Gartner за 2020 год, в среднем потери из-за низкого качества данных составляют примерно $12,8 миллиона за год. Как сообщается в последнем отчёте State of Data Quality, задержки продакшена (задержки с выпуском продукта) — характерный симптом низкого качества данных. Высококачественные и безошибочные данные повышают надёжность и верность полученных из них выводов.
Для повышения качества данных необходима система его оценки. В достижении этой цели вам помогут размерности качества данных. Размерности позволяют измерять покрытие и выявлять компоненты, требующие тестирования качества данных.
В этой статье рассматриваются шесть размерностей качества данных: полнота, согласованность, целостность, вневременная актуальность, уникальность и валидность. Определив их, вы сможете обеспечить исчерпывающее понимание качества данных и выявить аспекты, требующие совершенствования. И здесь нам на помощь приходит Great Expectation (GX).
Читать: https://habr.com/ru/articles/739254/
Размерности качества данных: обеспечение качества данных с помощью Great Expectations
Качество данных играет критически важную роль в любом процессе управления данными. Организации используют данные для принятия решений и улучшения различных бизнес-показателей. Однако если данные усеяны неточностями, ошибками или несогласованностями, то они могут нанести больше вреда, чем пользы.
Согласно опросу Gartner за 2020 год, в среднем потери из-за низкого качества данных составляют примерно $12,8 миллиона за год. Как сообщается в последнем отчёте State of Data Quality, задержки продакшена (задержки с выпуском продукта) — характерный симптом низкого качества данных. Высококачественные и безошибочные данные повышают надёжность и верность полученных из них выводов.
Для повышения качества данных необходима система его оценки. В достижении этой цели вам помогут размерности качества данных. Размерности позволяют измерять покрытие и выявлять компоненты, требующие тестирования качества данных.
В этой статье рассматриваются шесть размерностей качества данных: полнота, согласованность, целостность, вневременная актуальность, уникальность и валидность. Определив их, вы сможете обеспечить исчерпывающее понимание качества данных и выявить аспекты, требующие совершенствования. И здесь нам на помощь приходит Great Expectation (GX).
Читать: https://habr.com/ru/articles/739254/
Качество данных играет критически важную роль в любом процессе управления данными. Организации используют данные для принятия решений и улучшения различных бизнес-показателей. Однако если данные усеяны неточностями, ошибками или несогласованностями, то они могут нанести больше вреда, чем пользы.
Согласно опросу Gartner за 2020 год, в среднем потери из-за низкого качества данных составляют примерно $12,8 миллиона за год. Как сообщается в последнем отчёте State of Data Quality, задержки продакшена (задержки с выпуском продукта) — характерный симптом низкого качества данных. Высококачественные и безошибочные данные повышают надёжность и верность полученных из них выводов.
Для повышения качества данных необходима система его оценки. В достижении этой цели вам помогут размерности качества данных. Размерности позволяют измерять покрытие и выявлять компоненты, требующие тестирования качества данных.
В этой статье рассматриваются шесть размерностей качества данных: полнота, согласованность, целостность, вневременная актуальность, уникальность и валидность. Определив их, вы сможете обеспечить исчерпывающее понимание качества данных и выявить аспекты, требующие совершенствования. И здесь нам на помощь приходит Great Expectation (GX).
Читать: https://habr.com/ru/articles/739254/
Search Nodes Now in Public Preview: Performance at Scale with Dedicated Infrastructure
Search Nodes is now available in public preview, providing dedicated infrastructure for Atlas Search and Vector Search workloads. With Search Nodes, users can scale search independent of database needs, resulting in better performance, workload isolation, higher availability, and improved resource usage. Previously, Atlas Search and Vector Search were co-located with Atlas on Atlas Nodes, leading to potential resource contention and difficulty in workload management. Users can easily enable Search Nodes in the MongoDB UI. Search Nodes offers benefits such as workload isolation, improved performance, and higher availability. SuperDuperDB, Algomo, and Source Digital are three companies featured in the blog, showcasing their AI innovations and how they leverage MongoDB. Vector search and large language models (LLMs) are also discussed, explaining their importance in data-driven businesses. The text discusses the concept of vector search, which involves finding vectors that are most similar to a given query. Vector search is often referred to as similarity search. The similarity between vectors is measured by calculating the distance between them in a vector space. The closer two points are in the vector space, the more similar they are in meaning. The text also explains the role of Large Language Models (LLMs) in vector search and how LLMs use embedding models to understand text. It mentions the importance of training LLMs with domain-specific data and the quantity and quality of data used to train a model. The text also provides a timeline of vector search and LLM technologies, highlighting that the foundations for vector search were available since 2016, while LLMs became more popular after the release of ChatGPT by OpenAI in 2022. The text concludes by emphasizing that vector search and LLMs have the potential to transform the field of information retrieval when used together.
Read: https://www.mongodb.com/blog/post/search-nodes-now-public-preview-performance-scale-dedicated-infrastructure
Search Nodes is now available in public preview, providing dedicated infrastructure for Atlas Search and Vector Search workloads. With Search Nodes, users can scale search independent of database needs, resulting in better performance, workload isolation, higher availability, and improved resource usage. Previously, Atlas Search and Vector Search were co-located with Atlas on Atlas Nodes, leading to potential resource contention and difficulty in workload management. Users can easily enable Search Nodes in the MongoDB UI. Search Nodes offers benefits such as workload isolation, improved performance, and higher availability. SuperDuperDB, Algomo, and Source Digital are three companies featured in the blog, showcasing their AI innovations and how they leverage MongoDB. Vector search and large language models (LLMs) are also discussed, explaining their importance in data-driven businesses. The text discusses the concept of vector search, which involves finding vectors that are most similar to a given query. Vector search is often referred to as similarity search. The similarity between vectors is measured by calculating the distance between them in a vector space. The closer two points are in the vector space, the more similar they are in meaning. The text also explains the role of Large Language Models (LLMs) in vector search and how LLMs use embedding models to understand text. It mentions the importance of training LLMs with domain-specific data and the quantity and quality of data used to train a model. The text also provides a timeline of vector search and LLM technologies, highlighting that the foundations for vector search were available since 2016, while LLMs became more popular after the release of ChatGPT by OpenAI in 2022. The text concludes by emphasizing that vector search and LLMs have the potential to transform the field of information retrieval when used together.
Read: https://www.mongodb.com/blog/post/search-nodes-now-public-preview-performance-scale-dedicated-infrastructure
Уровни изоляции транзакций: Объясняю на мемах
В мире баз данных, безопасность и надежность являются фундаментальными аспектами, на которых строится эффективная работа с данными. Одной из ключевых составляющих безопасности в контексте транзакционных операций является уровень изоляции транзакций.
В этой статье я хочу на понятных примерах рассказать и показать: что вообще такое изоляции, для чего они нужны и как их можно использовать.
Если вы новичок в области баз данных или опытный разработчик, стремящийся углубить знания, эта статья предлагает вам полезную информацию и практические советы. Давайте начнем наше увлекательное путешествие в мир уровней изоляции транзакций, чтобы обрести уверенность и мастерство в работе с этой ключевой составляющей систем управления базами данных.
Читать: https://habr.com/ru/articles/768628/
В мире баз данных, безопасность и надежность являются фундаментальными аспектами, на которых строится эффективная работа с данными. Одной из ключевых составляющих безопасности в контексте транзакционных операций является уровень изоляции транзакций.
В этой статье я хочу на понятных примерах рассказать и показать: что вообще такое изоляции, для чего они нужны и как их можно использовать.
Если вы новичок в области баз данных или опытный разработчик, стремящийся углубить знания, эта статья предлагает вам полезную информацию и практические советы. Давайте начнем наше увлекательное путешествие в мир уровней изоляции транзакций, чтобы обрести уверенность и мастерство в работе с этой ключевой составляющей систем управления базами данных.
Читать: https://habr.com/ru/articles/768628/
Safeguarding Healthcare: Prescribing Strategies to Mitigate Digital Threats
The blog discusses the cybersecurity challenges faced by the healthcare sector in the digital age and proposes strategies to mitigate digital threats. One key strategy is adopting the Zero Trust model, which involves verifying and validating every access attempt. Other strategies include balancing security and interoperability, addressing insider threats, and building organizational resilience. The blog also introduces three companies that are using MongoDB to build AI-powered applications for communication in the realms of data, language, and video. The blog discusses the concepts of vector search and large language models (LLMs) in the context of Artificial Intelligence (AI). Vector search involves using vectors, which are encoded representations of unstructured data, to find similar data points based on their meaning. This is achieved by measuring the distance between vectors in a multi-dimensional space. LLMs, on the other hand, are NLP models that use embedding models to understand text and perform language-related tasks. The popularity of vector search and LLMs has increased in recent years, with the release of ChatGPT by OpenAI in 2022 playing a significant role in making LLMs more accessible to the general public. The combination of vector search and LLMs has led to advancements in information retrieval and has become a trending topic in the AI industry.
Read: https://www.mongodb.com/blog/post/safeguarding-healthcare-prescribing-strategies-mitigate-digital-threats
The blog discusses the cybersecurity challenges faced by the healthcare sector in the digital age and proposes strategies to mitigate digital threats. One key strategy is adopting the Zero Trust model, which involves verifying and validating every access attempt. Other strategies include balancing security and interoperability, addressing insider threats, and building organizational resilience. The blog also introduces three companies that are using MongoDB to build AI-powered applications for communication in the realms of data, language, and video. The blog discusses the concepts of vector search and large language models (LLMs) in the context of Artificial Intelligence (AI). Vector search involves using vectors, which are encoded representations of unstructured data, to find similar data points based on their meaning. This is achieved by measuring the distance between vectors in a multi-dimensional space. LLMs, on the other hand, are NLP models that use embedding models to understand text and perform language-related tasks. The popularity of vector search and LLMs has increased in recent years, with the release of ChatGPT by OpenAI in 2022 playing a significant role in making LLMs more accessible to the general public. The combination of vector search and LLMs has led to advancements in information retrieval and has become a trending topic in the AI industry.
Read: https://www.mongodb.com/blog/post/safeguarding-healthcare-prescribing-strategies-mitigate-digital-threats
Try the Oracle APEX 23.2 Preview on apex.oracle.com!
Oracle APEX 23.2 preview is now available on apex.oracle.com
Read: https://blogs.oracle.com/apex/post/try-oracle-apex-232-on-apex-oracle-com
Oracle APEX 23.2 preview is now available on apex.oracle.com
Read: https://blogs.oracle.com/apex/post/try-oracle-apex-232-on-apex-oracle-com
Oracle DatabaseWorld at CloudWorld 2023 – It’s a wrap!
So it’s been a few weeks since we wrapped up our inaugural Oracle DatabaseWorld at CloudWorld in Vegas, and I’m still working through the long list of follow-ups from all of the customer and partner meetings I had. In addition, the product announcements we made at the event have piqued the interest of industry analysts and media, resulting in requests for briefings and article reviews – more items to add to my to-do list.
Read: https://blogs.oracle.com/database/post/oracle-databaseworld-at-cloudworld-2023-its-a-wrap
So it’s been a few weeks since we wrapped up our inaugural Oracle DatabaseWorld at CloudWorld in Vegas, and I’m still working through the long list of follow-ups from all of the customer and partner meetings I had. In addition, the product announcements we made at the event have piqued the interest of industry analysts and media, resulting in requests for briefings and article reviews – more items to add to my to-do list.
Read: https://blogs.oracle.com/database/post/oracle-databaseworld-at-cloudworld-2023-its-a-wrap
Oracle
Oracle DatabaseWorld at CloudWorld 2023 – It’s a wrap!
So it’s been a few weeks since we wrapped up our inaugural Oracle DatabaseWorld at CloudWorld in Vegas, and I’m still working through the long list of follow-ups from all of the customer and partner meetings I had. In addition, the product announcements we…
Отказоустойчивая архитектура: почему Tarantool не падает?
Основная проблема в высоконагруженных приложениях — отказоустойчивость. Нагрузка с упавших узлов в кластере должна переключаться на живые. Это кажется несложной задачей, но на практике появляется много подводных камней. Мы с yngvar_antonsson потратили много времени на поддержку различных кластеров, построенных на Tarantool и наших кластерных фреймворках Cartridge и TDG, и сегодня расскажем вам, как обеспечивается отказоустойчивость в наших приложениях. Будет интересно всем, кто хочет подробнее узнать, как устроен фейловер в Cartridge, и тем, кто хочет узнать о нашем опыте создания автоматических фейловеров.
Читать: https://habr.com/ru/companies/vk/articles/768360/
Основная проблема в высоконагруженных приложениях — отказоустойчивость. Нагрузка с упавших узлов в кластере должна переключаться на живые. Это кажется несложной задачей, но на практике появляется много подводных камней. Мы с yngvar_antonsson потратили много времени на поддержку различных кластеров, построенных на Tarantool и наших кластерных фреймворках Cartridge и TDG, и сегодня расскажем вам, как обеспечивается отказоустойчивость в наших приложениях. Будет интересно всем, кто хочет подробнее узнать, как устроен фейловер в Cartridge, и тем, кто хочет узнать о нашем опыте создания автоматических фейловеров.
Читать: https://habr.com/ru/companies/vk/articles/768360/
Restic: эффективное резервное копирование из Stdin
Про restic я уже рассказывал в статье Бэкап-хранилище для тысяч виртуальных машин свободными инструментами, с тех пор он остаётся моим любимым инструментом для бэкапа.
Сегодня я опишу вам готовый рецепт того как настроить эффективное бэкапирование чего угодно прямо из stdin, с дедупликацией и автоматической очисткой репозитория от старых копий.
Несмотря на то, что restic отлично подходит для сохранения целых каталогов с данными в этой статье мне хотелось бы сделать упор на сохранении резервных копий на лету прямо из Stdin.
Как правило это бывает актуально для сохранения бэкапов виртуальных машин, баз данных и других, представленных одним большим файлом, данных, которые можно последовательно вычитывать и сразу отправлять в систему бэкапирования.
Читать: https://habr.com/ru/articles/769622/
Про restic я уже рассказывал в статье Бэкап-хранилище для тысяч виртуальных машин свободными инструментами, с тех пор он остаётся моим любимым инструментом для бэкапа.
Сегодня я опишу вам готовый рецепт того как настроить эффективное бэкапирование чего угодно прямо из stdin, с дедупликацией и автоматической очисткой репозитория от старых копий.
Несмотря на то, что restic отлично подходит для сохранения целых каталогов с данными в этой статье мне хотелось бы сделать упор на сохранении резервных копий на лету прямо из Stdin.
Как правило это бывает актуально для сохранения бэкапов виртуальных машин, баз данных и других, представленных одним большим файлом, данных, которые можно последовательно вычитывать и сразу отправлять в систему бэкапирования.
Читать: https://habr.com/ru/articles/769622/
Висмут на пальцах: носимое устройство для хранения данных
Когда речь заходит о создании носимого устройства, то одним из первых возникает вопрос комфорта, который напрямую зависит от габаритов. Размеры и архитектура устройства напрямую зависят от функций, которые оно должно выполнять. Порой инженерам приходится создавать своеобразный слоеный торт, накладывая слои разных наноматериалов друг на друга. Естественно, многих тревожил вопрос — возможно ли мультифункциональное носимое устройство, созданное из единственного слоя наноматериала? Ученые из Мельбурнского королевского технологического университета (Австралия) провели исследование, в котором создали прототип такого чудо-устройства, носимого на пальце пользователя и способного не только собирать энергию от движений, но и записывать данные. Из чего было сделано устройство, каков принцип его работы, и каким может быть его практическое применение. Ответы на эти вопросы мы найдем в докладе ученых.
Читать: https://habr.com/ru/companies/ua-hosting/articles/769466/
Когда речь заходит о создании носимого устройства, то одним из первых возникает вопрос комфорта, который напрямую зависит от габаритов. Размеры и архитектура устройства напрямую зависят от функций, которые оно должно выполнять. Порой инженерам приходится создавать своеобразный слоеный торт, накладывая слои разных наноматериалов друг на друга. Естественно, многих тревожил вопрос — возможно ли мультифункциональное носимое устройство, созданное из единственного слоя наноматериала? Ученые из Мельбурнского королевского технологического университета (Австралия) провели исследование, в котором создали прототип такого чудо-устройства, носимого на пальце пользователя и способного не только собирать энергию от движений, но и записывать данные. Из чего было сделано устройство, каков принцип его работы, и каким может быть его практическое применение. Ответы на эти вопросы мы найдем в докладе ученых.
Читать: https://habr.com/ru/companies/ua-hosting/articles/769466/
Config at MongoDB Shares Why Neurodiversity Matters
Read: https://www.mongodb.com/blog/post/config-mongodb-shares-why-neurodiversity-matters
Read: https://www.mongodb.com/blog/post/config-mongodb-shares-why-neurodiversity-matters
BNETS Bets on MariaDB Enterprise Server for Banking Across Suriname
Read: https://mariadb.com/?p=38214
Read: https://mariadb.com/?p=38214
Один на 150 000 операций. Расследуем причины выброса времени отклика в операциях ввода-вывода
Привет! Я Александр Пищулин, перфоманс-инженер в компании YADRO. Сегодня расскажу об одном интересном случае траблшутинга в работе с системой хранения данных — он касается выброса времени отклика. Поиск причин сбоев, наверное, одно из самых увлекательных занятий в моей работе. Зачастую у подобных задач минимальная формализация подхода к решению, каждый раз может быть своего рода открытием или, если угодно, челленджем.
Так произошло и в случае, который я описываю под катом. Путь решения задачи может показаться не оптимальным, но в итоге именно он привел к неожиданной разгадке всей проблемы. Возможно, вы бы начали искать проблему иначе — предлагаю поделиться вашими соображениями или опытом в комментариях.
Узнать решение →
Читать: https://habr.com/ru/companies/yadro/articles/769084/
Привет! Я Александр Пищулин, перфоманс-инженер в компании YADRO. Сегодня расскажу об одном интересном случае траблшутинга в работе с системой хранения данных — он касается выброса времени отклика. Поиск причин сбоев, наверное, одно из самых увлекательных занятий в моей работе. Зачастую у подобных задач минимальная формализация подхода к решению, каждый раз может быть своего рода открытием или, если угодно, челленджем.
Так произошло и в случае, который я описываю под катом. Путь решения задачи может показаться не оптимальным, но в итоге именно он привел к неожиданной разгадке всей проблемы. Возможно, вы бы начали искать проблему иначе — предлагаю поделиться вашими соображениями или опытом в комментариях.
Узнать решение →
Читать: https://habr.com/ru/companies/yadro/articles/769084/
Anytype вместо Notion
Да, N это очень круто, не спорю, но однажды у меня в N закончилось место в 1000 блоков (в A пространство так же ограничено 1Гб, но об этом позже) и дальше заметки вести невозможно, и N предлагает апгрейд
Читать: https://habr.com/ru/articles/770158/
Да, N это очень круто, не спорю, но однажды у меня в N закончилось место в 1000 блоков (в A пространство так же ограничено 1Гб, но об этом позже) и дальше заметки вести невозможно, и N предлагает апгрейд
Читать: https://habr.com/ru/articles/770158/
4 Key Considerations for Unlocking the Power of GenAI
Read: https://www.mongodb.com/blog/post/4-key-considerations-unlocking-power-gen-ai
Read: https://www.mongodb.com/blog/post/4-key-considerations-unlocking-power-gen-ai
Как мы обезличиваем ПДн, сохраняя их смысл и качество. Чтобы тестовый стенд был полезным, будто там данные с прода
Год назад мы выпустили «Маскировщик» — промышленный софт, который обезличивает персональные данные, сохраняя их качество и смысл. То есть гендерный баланс; социально‑демографическую структуру; родственные связи; страну и оператора в телефоне; валидность паспортов, ИНН, СНИЛС. В общем, «Маскировщик» делает так, чтобы вы тестировали продукты и обучали ML‑модели будто бы на «живых» ПД.
В этой статье пролью свет на методы изменения состава и семантики, которые использует продукт. Для простоты буду называть их «алгоритмами маскирования». Расскажу, по какой логике меняем одни данные другими, какие ограничения и как учитываем.
Разобраться в алгоритмах маскирования
Читать: https://habr.com/ru/companies/hflabs/articles/769928/
Год назад мы выпустили «Маскировщик» — промышленный софт, который обезличивает персональные данные, сохраняя их качество и смысл. То есть гендерный баланс; социально‑демографическую структуру; родственные связи; страну и оператора в телефоне; валидность паспортов, ИНН, СНИЛС. В общем, «Маскировщик» делает так, чтобы вы тестировали продукты и обучали ML‑модели будто бы на «живых» ПД.
В этой статье пролью свет на методы изменения состава и семантики, которые использует продукт. Для простоты буду называть их «алгоритмами маскирования». Расскажу, по какой логике меняем одни данные другими, какие ограничения и как учитываем.
Разобраться в алгоритмах маскирования
Читать: https://habr.com/ru/companies/hflabs/articles/769928/