🛡 Guardrails AI: Обеспечение безопасности AI приложений
🔍 Guardrails AI — продукт с открытым исходным кодом, предназначенный для обеспечения безопасности приложений на основе искусственного интеллекта (ИИ). Инструмент включает два ключевых компонента:
- Rail — задаёт спецификации с использованием языка разметки Reliable AI Markup Language (RAIL).
- Guard — легковесная обёртка для структурирования, проверки и корректировки выходных данных языковых моделей (LLM).
🛠 Guardrails AI помогает устанавливать и поддерживать стандарты надёжности в работе LLM, предоставляя следующие возможности:
1. Создание фреймворка для валидаторов: гибкость созданию валидаторов, что позволяет адаптироваться к различным сценариям использования и конкретным потребностям валидации.
2. Упрощение процесса взаимодействия с LLM: оптимизация процесса создания запросов, проверок и повторных запросов для повышения эффективности взаимодействия с языковыми моделями.
3. Централизованное хранилище валидаторов: репозиторий часто используемых валидаторов для улучшения доступности и стандартизации практик валидации в различных приложениях.
🔒 Кроме того, Guardrails AI помогает выявлять нежелательные или вредоносные выходные данные, внедряя механизмы управления и корректировки результатов, что делает работу с LLM более безопасной и надёжной.
📖 Более подробную информацию о Guardrails AI можно найти на официальной странице проекта или в репозитории на GitHub.
Stay secure and read SecureTechTalks 📚
#Кибербезопасность #ИИ #МашинноеОбучение #GuardrailsAI #БезопасностьИИ #SecureTechTalks
🔍 Guardrails AI — продукт с открытым исходным кодом, предназначенный для обеспечения безопасности приложений на основе искусственного интеллекта (ИИ). Инструмент включает два ключевых компонента:
- Rail — задаёт спецификации с использованием языка разметки Reliable AI Markup Language (RAIL).
- Guard — легковесная обёртка для структурирования, проверки и корректировки выходных данных языковых моделей (LLM).
🛠 Guardrails AI помогает устанавливать и поддерживать стандарты надёжности в работе LLM, предоставляя следующие возможности:
1. Создание фреймворка для валидаторов: гибкость созданию валидаторов, что позволяет адаптироваться к различным сценариям использования и конкретным потребностям валидации.
2. Упрощение процесса взаимодействия с LLM: оптимизация процесса создания запросов, проверок и повторных запросов для повышения эффективности взаимодействия с языковыми моделями.
3. Централизованное хранилище валидаторов: репозиторий часто используемых валидаторов для улучшения доступности и стандартизации практик валидации в различных приложениях.
🔒 Кроме того, Guardrails AI помогает выявлять нежелательные или вредоносные выходные данные, внедряя механизмы управления и корректировки результатов, что делает работу с LLM более безопасной и надёжной.
📖 Более подробную информацию о Guardrails AI можно найти на официальной странице проекта или в репозитории на GitHub.
Stay secure and read SecureTechTalks 📚
#Кибербезопасность #ИИ #МашинноеОбучение #GuardrailsAI #БезопасностьИИ #SecureTechTalks
📊 Риски кибербезопасности по данным отчета Forescout за 1H2024
🚨 Вчера компания Forescout выпустила свой полугодовой отчет о рисках кибербезопасности за первое полугодие 2024: Forescout’s 2024H1 Threat Review. В отчете рассматриваются основные уязвимости, вектора атак, тенденция роста программ-вымогателей.
🖥 Рост числа уязвимостей
Количество зарегистрированных уязвимостей увеличилось на 43% по сравнению с первой половиной 2023 года, достигнув 23,668 уязвимостей. В среднем фиксировалось 111 новых уязвимостей в день, что на 7,112 больше, чем в прошлом году. Примерно 20% эксплуатируемых уязвимостей затрагивали VPN и сетевую инфраструктуру.
💻 Атаки программ-вымогателей
Число атак с помощью программ-вымогателей выросло на 6%, достигнув 3,085 инцидентов, по сравнению с 2,899 в аналогичном периоде прошлого года. В США произошло половина всех атак. Наиболее часто атакуемыми секторами стали государственный, финансовый и технологический. Число активных групп вымогателей увеличилось на 55%, среди которых преобладают киберпреступники (50%), государственные акторы (40%) и хактивисты, в основном из Китая, России и Ирана.
🔐 Массированные атаки на VPN и сетевую инфраструктуру
В первой половине 2024 года 15 новых уязвимостей в каталоге CISA KEV были зафиксированы на инфраструктуре и устройствах безопасности таких вендоров, как Ivanti, Citrix, Fortinet, Cisco, Palo Alto Networks, Check Point и D-Link. Атаки часто использовали уязвимости нулевого дня или недавно выявленные и не устраненные уязвимости. Исследование Forescout также показало, что в 2024 году маршрутизаторы и беспроводные точки доступа являются наиболее уязвимыми устройствами.
📉 Рекомендации по снижению рисков
Элиса Константе, вице-президент по исследованиям в Forescout Research – Vedere Labs, советует организациям внедрять проактивные меры контроля. Ключевые шаги должны включать мониторинг инфраструктуры, оценку рисков, отключение неиспользуемых сервисов, непрерывное устранение уязвимостей, применение многофакторной аутентификации и сегментацию сетей.
🔗 Ознакомиться с отчетом можно здесь.
Stay secure and read SecureTechTalks 📚
#Кибербезопасность #Атаки #Уязвимости #ПрограммыВымогатели #СетеваяИнфраструктура #SecureTechTalks
🚨 Вчера компания Forescout выпустила свой полугодовой отчет о рисках кибербезопасности за первое полугодие 2024: Forescout’s 2024H1 Threat Review. В отчете рассматриваются основные уязвимости, вектора атак, тенденция роста программ-вымогателей.
🖥 Рост числа уязвимостей
Количество зарегистрированных уязвимостей увеличилось на 43% по сравнению с первой половиной 2023 года, достигнув 23,668 уязвимостей. В среднем фиксировалось 111 новых уязвимостей в день, что на 7,112 больше, чем в прошлом году. Примерно 20% эксплуатируемых уязвимостей затрагивали VPN и сетевую инфраструктуру.
💻 Атаки программ-вымогателей
Число атак с помощью программ-вымогателей выросло на 6%, достигнув 3,085 инцидентов, по сравнению с 2,899 в аналогичном периоде прошлого года. В США произошло половина всех атак. Наиболее часто атакуемыми секторами стали государственный, финансовый и технологический. Число активных групп вымогателей увеличилось на 55%, среди которых преобладают киберпреступники (50%), государственные акторы (40%) и хактивисты, в основном из Китая, России и Ирана.
🔐 Массированные атаки на VPN и сетевую инфраструктуру
В первой половине 2024 года 15 новых уязвимостей в каталоге CISA KEV были зафиксированы на инфраструктуре и устройствах безопасности таких вендоров, как Ivanti, Citrix, Fortinet, Cisco, Palo Alto Networks, Check Point и D-Link. Атаки часто использовали уязвимости нулевого дня или недавно выявленные и не устраненные уязвимости. Исследование Forescout также показало, что в 2024 году маршрутизаторы и беспроводные точки доступа являются наиболее уязвимыми устройствами.
📉 Рекомендации по снижению рисков
Элиса Константе, вице-президент по исследованиям в Forescout Research – Vedere Labs, советует организациям внедрять проактивные меры контроля. Ключевые шаги должны включать мониторинг инфраструктуры, оценку рисков, отключение неиспользуемых сервисов, непрерывное устранение уязвимостей, применение многофакторной аутентификации и сегментацию сетей.
🔗 Ознакомиться с отчетом можно здесь.
Stay secure and read SecureTechTalks 📚
#Кибербезопасность #Атаки #Уязвимости #ПрограммыВымогатели #СетеваяИнфраструктура #SecureTechTalks
🚀 Обновление Wireshark 4.4.0: что нового?
Wireshark, популярный инструмент для анализа сетевого трафика, выпустил обновление до версии 4.4.0, которое принесло множество новых функций и улучшений, включая поддержку автоматического переключения профилей и обновление версий Lua.
🔄 Автоматическое переключение профилей
Теперь Wireshark поддерживает автоматическое переключение профилей, что позволяет ассоциировать фильтры отображения с конфигурационными профилями. Это означает, что при открытии файла захвата, соответствующего заданному фильтру, программа автоматически переключится на нужный профиль.
💡 Поддержка Lua 5.3 и 5.4
Wireshark теперь поддерживает Lua версии 5.3 и 5.4, а старые версии 5.1 и 5.2 больше не поддерживаются. Установочные пакеты для Windows и macOS включают Lua 5.4.6. Пользователям, которые ранее использовали более старые версии, возможно, потребуется обновить свои Lua-скрипты для совместимости с новыми версиями.
📊 Улучшения интерфейса и работы с графиками
Обновленная версия предлагает значительные улучшения возможностей построения графиков, включая I/O графики, графики потоков и вызовов VoIP, а также графики TCP-потоков.
🛠 Расширенная поддержка фильтров отображения и пользовательских колонок
Теперь можно создавать пользовательские колонки с любыми допустимыми выражениями полей, такими как фильтры отображения, фрагменты пакетов и логические тесты. Это позволяет пользователям настраивать отображение информации под конкретные задачи, что упрощает анализ данных.
⚡ Поддержка zlib-ng и повышение производительности
Wireshark теперь поддерживает сборку с использованием zlib-ng вместо zlib для работы со сжатыми файлами, что увеличивает скорость обработки данных. Данная функция включена в официальные пакеты для Windows и macOS.
🔧 Поддержка новых протоколов
С момента выхода предыдущих версий добавлены новые протоколы, такие как Allied Telesis Resiliency Link (AT RL), Monero и NMEA 0183, расширяя возможности анализа и диагностики сетей.
Wireshark продолжает развиваться, предоставляя пользователям инструменты для более глубокого и эффективного анализа сетевого трафика. Узнайте больше о новых функциях и возможностях на официальном сайте Wireshark.
Stay secure and read SecureTechTalks 📚
#Wireshark #update #СетеваяИнфраструктура #мониторинг #обновление
Wireshark, популярный инструмент для анализа сетевого трафика, выпустил обновление до версии 4.4.0, которое принесло множество новых функций и улучшений, включая поддержку автоматического переключения профилей и обновление версий Lua.
🔄 Автоматическое переключение профилей
Теперь Wireshark поддерживает автоматическое переключение профилей, что позволяет ассоциировать фильтры отображения с конфигурационными профилями. Это означает, что при открытии файла захвата, соответствующего заданному фильтру, программа автоматически переключится на нужный профиль.
💡 Поддержка Lua 5.3 и 5.4
Wireshark теперь поддерживает Lua версии 5.3 и 5.4, а старые версии 5.1 и 5.2 больше не поддерживаются. Установочные пакеты для Windows и macOS включают Lua 5.4.6. Пользователям, которые ранее использовали более старые версии, возможно, потребуется обновить свои Lua-скрипты для совместимости с новыми версиями.
📊 Улучшения интерфейса и работы с графиками
Обновленная версия предлагает значительные улучшения возможностей построения графиков, включая I/O графики, графики потоков и вызовов VoIP, а также графики TCP-потоков.
🛠 Расширенная поддержка фильтров отображения и пользовательских колонок
Теперь можно создавать пользовательские колонки с любыми допустимыми выражениями полей, такими как фильтры отображения, фрагменты пакетов и логические тесты. Это позволяет пользователям настраивать отображение информации под конкретные задачи, что упрощает анализ данных.
⚡ Поддержка zlib-ng и повышение производительности
Wireshark теперь поддерживает сборку с использованием zlib-ng вместо zlib для работы со сжатыми файлами, что увеличивает скорость обработки данных. Данная функция включена в официальные пакеты для Windows и macOS.
🔧 Поддержка новых протоколов
С момента выхода предыдущих версий добавлены новые протоколы, такие как Allied Telesis Resiliency Link (AT RL), Monero и NMEA 0183, расширяя возможности анализа и диагностики сетей.
Wireshark продолжает развиваться, предоставляя пользователям инструменты для более глубокого и эффективного анализа сетевого трафика. Узнайте больше о новых функциях и возможностях на официальном сайте Wireshark.
Stay secure and read SecureTechTalks 📚
#Wireshark #update #СетеваяИнфраструктура #мониторинг #обновление
👍1
🛡️ Garak: Уязвимости больших языковых моделей под контролем
Garak — open-source сканер уязвимостей, специально разработанный для проверки безопасности больших языковых моделей (LLMs). Garak помогает обнаруживать и анализировать уязвимости в инфраструктуре, системном окружении, приложениях и сервисах, которые используют языковые модели. Вот ключевые особенности Garak:
🔍 Автоматизированное сканирование: Garak выполняет разнообразные проверки моделей, управляет задачами, такими как выбор детекторов и ограничение скорости запросов, и генерирует детализированные отчеты без необходимости вмешательства человека. Такой подход позволяет проводить анализ производительности и безопасности моделей с минимальным участием пользователей.
🌐 Подключение к различным LLM: Garak поддерживает интеграцию с множеством языковых моделей, включая OpenAI, Hugging Face, Cohere, Replicate, а также пользовательские Python-интеграции.
🤖 Самоадаптация: Garak способен адаптироваться при выявлении сбоя LLM, используя логи и функцию автообучения для усовершенствования своих возможностей.
🧩 Многообразие режимов: Garak исследует различные режимы сбоев через плагины, проверки и сложные запросы, систематически анализируя каждый неудачный запрос и ответ, создавая при этом исчерпывающий набор логов для углубленного анализа.
Garak — это инструмент, который обеспечивает всестороннюю защиту от уязвимостей, связанных с большими языковыми моделями, и помогает повысить безопасность LLM в различных средах.
🔗 Узнайте больше о Garak на GitHub и официальном сайте.
Stay secure and read SecureTechTalks 📚
#Кибербезопасность #LLM #Garak #Инфобезопасность #SecureTechTalks
Garak — open-source сканер уязвимостей, специально разработанный для проверки безопасности больших языковых моделей (LLMs). Garak помогает обнаруживать и анализировать уязвимости в инфраструктуре, системном окружении, приложениях и сервисах, которые используют языковые модели. Вот ключевые особенности Garak:
🔍 Автоматизированное сканирование: Garak выполняет разнообразные проверки моделей, управляет задачами, такими как выбор детекторов и ограничение скорости запросов, и генерирует детализированные отчеты без необходимости вмешательства человека. Такой подход позволяет проводить анализ производительности и безопасности моделей с минимальным участием пользователей.
🌐 Подключение к различным LLM: Garak поддерживает интеграцию с множеством языковых моделей, включая OpenAI, Hugging Face, Cohere, Replicate, а также пользовательские Python-интеграции.
🤖 Самоадаптация: Garak способен адаптироваться при выявлении сбоя LLM, используя логи и функцию автообучения для усовершенствования своих возможностей.
🧩 Многообразие режимов: Garak исследует различные режимы сбоев через плагины, проверки и сложные запросы, систематически анализируя каждый неудачный запрос и ответ, создавая при этом исчерпывающий набор логов для углубленного анализа.
Garak — это инструмент, который обеспечивает всестороннюю защиту от уязвимостей, связанных с большими языковыми моделями, и помогает повысить безопасность LLM в различных средах.
🔗 Узнайте больше о Garak на GitHub и официальном сайте.
Stay secure and read SecureTechTalks 📚
#Кибербезопасность #LLM #Garak #Инфобезопасность #SecureTechTalks
🔍 DVUEFI: Инструмент для оценки безопасности UEFI
DVUEFI — инструмент с открытым исходным кодом, разработанный для анализа и тестирования безопасности интерфейсов UEFI (Unified Extensible Firmware Interface). Продукт был представлен на конференции Black Hat USA 2024 и вызвал большой интерес среди экспертов кибербезопасности, благодаря ряду полезных функций для проверки прошивок.
Основные возможности DVUEFI:
🛠️ Проверка прошивок UEFI: автоматизация процесса анализа и выявление распространенных уязвимостей и неправильно настроенных параметров безопасности в UEFI.
🧩 Модульная архитектура: Инструмент построен на модульной архитектуре, что позволяет добавлять новые модули и плагины для расширения его функционала.
📊 Генерация отчетов: DVUEFI генерирует детализированные отчеты по результатам проверок, что облегчает анализ и документирование найденных проблем. Инструмент будет особенно полезен тем, кто занимается аудитом безопасности или исследованием уязвимостей.
🔒 Поддержка платформ: Инструмент работает на различными ОС (Windows, Linux), а также работает с системой виртуализации VMWare.
DVUEFI — полезный инструмент для специалистов по безопасности. Благодаря своей модульной структуре и возможностям автоматизации он помогает проводить более глубокий анализ интерфейсов между операционной системой и микропрограммами и выявлять потенциальные риски.
🔗 Подробнее об инструменте и его возможностях можно узнать на странице проекта DVUEFI на GitHub.
Stay secure and read SecureTechTalks 📚
#Кибербезопасность #UEFI #DVUEFI #Инфобезопасность #SecureTechTalks
DVUEFI — инструмент с открытым исходным кодом, разработанный для анализа и тестирования безопасности интерфейсов UEFI (Unified Extensible Firmware Interface). Продукт был представлен на конференции Black Hat USA 2024 и вызвал большой интерес среди экспертов кибербезопасности, благодаря ряду полезных функций для проверки прошивок.
Основные возможности DVUEFI:
🛠️ Проверка прошивок UEFI: автоматизация процесса анализа и выявление распространенных уязвимостей и неправильно настроенных параметров безопасности в UEFI.
🧩 Модульная архитектура: Инструмент построен на модульной архитектуре, что позволяет добавлять новые модули и плагины для расширения его функционала.
📊 Генерация отчетов: DVUEFI генерирует детализированные отчеты по результатам проверок, что облегчает анализ и документирование найденных проблем. Инструмент будет особенно полезен тем, кто занимается аудитом безопасности или исследованием уязвимостей.
🔒 Поддержка платформ: Инструмент работает на различными ОС (Windows, Linux), а также работает с системой виртуализации VMWare.
DVUEFI — полезный инструмент для специалистов по безопасности. Благодаря своей модульной структуре и возможностям автоматизации он помогает проводить более глубокий анализ интерфейсов между операционной системой и микропрограммами и выявлять потенциальные риски.
🔗 Подробнее об инструменте и его возможностях можно узнать на странице проекта DVUEFI на GitHub.
Stay secure and read SecureTechTalks 📚
#Кибербезопасность #UEFI #DVUEFI #Инфобезопасность #SecureTechTalks
🧑💻 Управление рисками безопасности low-code/no-code приложений
В условиях постоянного изменения киберугроз важно обеспечить непрерывный мониторинг и управление рисками, особенно когда речь идет о приложениях, созданных с использованием платформ low-code/no-code (LCNC) и роботизированной автоматизации процессов (RPA). Концепция непрерывного управления киберугрозами (CTEM), предложенная Gartner, идеально подходит для таких задач, позволяя организациям постоянно оценивать и улучшать свою защиту.
🔍 Почему LCNC и RPA требуют особого внимания?
Платформы LCNC предоставляют возможность создания приложений практически любым сотрудником компании, не обладающим глубокими знаниями программирования. Это приводит к тому, что приложения могут развертываться без должного контроля со стороны службы безопасности, что значительно увеличивает площадь атак и делает компании уязвимыми для различных угроз.
📊 Интеграция LCNC и RPA с методологией CTEM
1. Определить приоритеты: Оцените, какие активы требуют наибольшего внимания, исходя из их критичности для бизнеса и степени уязвимости.
2. Обнаруживать угрозы: Проводите каталогизацию всех видимых и скрытых активов, выявлять уязвимости и неправильные настройки.
3. Проверять уязвимости: Оцените, насколько возможна эксплуатация уязвимостей и какой ущерб может быть нанесен.
4. Мобилизовать ресурсы: Вовлекайте бизнес-пользователей и разработчиков в процесс устранения уязвимостей.
💡 Лучшие практики для внедрения CTEM в LCNC
1. Интеграция с существующими процессами: Включайте LCNC и RPA безопасность в общие рабочие процессы реагирования на инциденты и устранения уязвимостей.
2. Повышение видимости: Используйте инструменты мониторинга для обеспечения прозрачности LCNC и RPA решений.
3. Приоритет критически важных активов: Фокусируйтесь на уязвимостях, которые могут нанести наибольший ущерб бизнесу.
4. Непрерывная адаптация: Постоянно обновляйте и улучшайте меры безопасности в соответствии с новыми угрозами.
🛡CTEM позволяет эффективно управлять рисками, обеспечивая безопасность и устойчивость бизнеса в условиях постоянно меняющихся киберугроз.
🔗 Подробнее по методологию CTEM можно прочитать на сайте Gartner.
Stay secure and read SecureTechTalks 📚
#Кибербезопасность #CTEM #LCNC #RPA #SecureTechTalks
В условиях постоянного изменения киберугроз важно обеспечить непрерывный мониторинг и управление рисками, особенно когда речь идет о приложениях, созданных с использованием платформ low-code/no-code (LCNC) и роботизированной автоматизации процессов (RPA). Концепция непрерывного управления киберугрозами (CTEM), предложенная Gartner, идеально подходит для таких задач, позволяя организациям постоянно оценивать и улучшать свою защиту.
🔍 Почему LCNC и RPA требуют особого внимания?
Платформы LCNC предоставляют возможность создания приложений практически любым сотрудником компании, не обладающим глубокими знаниями программирования. Это приводит к тому, что приложения могут развертываться без должного контроля со стороны службы безопасности, что значительно увеличивает площадь атак и делает компании уязвимыми для различных угроз.
📊 Интеграция LCNC и RPA с методологией CTEM
1. Определить приоритеты: Оцените, какие активы требуют наибольшего внимания, исходя из их критичности для бизнеса и степени уязвимости.
2. Обнаруживать угрозы: Проводите каталогизацию всех видимых и скрытых активов, выявлять уязвимости и неправильные настройки.
3. Проверять уязвимости: Оцените, насколько возможна эксплуатация уязвимостей и какой ущерб может быть нанесен.
4. Мобилизовать ресурсы: Вовлекайте бизнес-пользователей и разработчиков в процесс устранения уязвимостей.
💡 Лучшие практики для внедрения CTEM в LCNC
1. Интеграция с существующими процессами: Включайте LCNC и RPA безопасность в общие рабочие процессы реагирования на инциденты и устранения уязвимостей.
2. Повышение видимости: Используйте инструменты мониторинга для обеспечения прозрачности LCNC и RPA решений.
3. Приоритет критически важных активов: Фокусируйтесь на уязвимостях, которые могут нанести наибольший ущерб бизнесу.
4. Непрерывная адаптация: Постоянно обновляйте и улучшайте меры безопасности в соответствии с новыми угрозами.
🛡CTEM позволяет эффективно управлять рисками, обеспечивая безопасность и устойчивость бизнеса в условиях постоянно меняющихся киберугроз.
🔗 Подробнее по методологию CTEM можно прочитать на сайте Gartner.
Stay secure and read SecureTechTalks 📚
#Кибербезопасность #CTEM #LCNC #RPA #SecureTechTalks
🔍 Cybench: бенчмарк оценки LLM по поиску уязвимостей
Исследователи из Стэнфордского университета представили Cybench — фреймворк для оценки возможностей и рисков использования языковых моделей (LLM) в кибербезопасности. Cybench создан для проверки ИИ-агентов на способность идентифицировать уязвимости и проводить атаки, автоматизируя процессы, которые ранее требовали участия человека.
🔧 Основные возможности Cybench:
- Автоматизированное сканирование: Cybench позволяет проводить автоматизированные тесты, которые включают выполнение команд и анализ результатов без участия человека.
- Поддержка различных LLM: Инструмент может работать с моделями от OpenAI, Hugging Face и многими другими.
- Градиентная оценка задач: Cybench включает 40 задач уровня профессиональных Capture the Flag (CTF) соревнований, что позволяет более точно оценивать возможности моделей через последовательные промежуточные этапы (subtasks).
- Обширная поддержка задач: Задачи включают категории криптографии, веб-безопасности, реверс-инжиниринга, криминалистики, эксплуатации уязвимостей и других навыков, необходимых для профессиональной кибербезопасности.
🚨 Проблемы и результаты:
- Текущие ИИ-агенты способны решать только самые простые задачи из набора Cybench.
- Наиболее успешные модели, такие как Claude 3.5 Sonnet и GPT-4o, достигают успеха в 17,5% и 29,4% случаев соответственно при выполнении сабтасков.
- Cybench выделяет задачи по уровню сложности, основываясь на времени решения реальными командами, что помогает установить более точные метрики для оценки ИИ.
🌐 Применение и выводы:
Cybench демонстрирует, что текущие LLM модели имеют ограниченные возможности в сложных задачах кибербезопасности. Тем не менее, этот инструмент помогает определить пробелы в защите и выявить потенциальные области для улучшения, подчеркивая необходимость дальнейших исследований и разработки надежных ИИ-агентов.
🔗 Чтобы узнать больше о Cybench, посетите официальный сайт проекта.
Stay secure and read SecureTechTalks 📚
#cybersecurity #AI #Cybench #MLmodels #SecureTechTalks
Исследователи из Стэнфордского университета представили Cybench — фреймворк для оценки возможностей и рисков использования языковых моделей (LLM) в кибербезопасности. Cybench создан для проверки ИИ-агентов на способность идентифицировать уязвимости и проводить атаки, автоматизируя процессы, которые ранее требовали участия человека.
🔧 Основные возможности Cybench:
- Автоматизированное сканирование: Cybench позволяет проводить автоматизированные тесты, которые включают выполнение команд и анализ результатов без участия человека.
- Поддержка различных LLM: Инструмент может работать с моделями от OpenAI, Hugging Face и многими другими.
- Градиентная оценка задач: Cybench включает 40 задач уровня профессиональных Capture the Flag (CTF) соревнований, что позволяет более точно оценивать возможности моделей через последовательные промежуточные этапы (subtasks).
- Обширная поддержка задач: Задачи включают категории криптографии, веб-безопасности, реверс-инжиниринга, криминалистики, эксплуатации уязвимостей и других навыков, необходимых для профессиональной кибербезопасности.
🚨 Проблемы и результаты:
- Текущие ИИ-агенты способны решать только самые простые задачи из набора Cybench.
- Наиболее успешные модели, такие как Claude 3.5 Sonnet и GPT-4o, достигают успеха в 17,5% и 29,4% случаев соответственно при выполнении сабтасков.
- Cybench выделяет задачи по уровню сложности, основываясь на времени решения реальными командами, что помогает установить более точные метрики для оценки ИИ.
🌐 Применение и выводы:
Cybench демонстрирует, что текущие LLM модели имеют ограниченные возможности в сложных задачах кибербезопасности. Тем не менее, этот инструмент помогает определить пробелы в защите и выявить потенциальные области для улучшения, подчеркивая необходимость дальнейших исследований и разработки надежных ИИ-агентов.
🔗 Чтобы узнать больше о Cybench, посетите официальный сайт проекта.
Stay secure and read SecureTechTalks 📚
#cybersecurity #AI #Cybench #MLmodels #SecureTechTalks
🔍 OWASP LLM: Защита и управление ИИ
OWASP (Open Web Application Security Project) недавно представила инициативу по разработке стандартов, руководств безопасности и управлению крупными языковыми моделями (LLM), такими как GPT-4. В условиях, когда технологии ИИ становятся всё более интегрированными в различные сферы, включая кибербезопасность, возникает множество новых рисков и уязвимостей.
🛡️ Основные вызовы и риски:
1. Уязвимости в LLM: Крупные языковые модели могут быть уязвимы для атак, таких как инъекции запросов и манипуляции данными, что делает необходимым создание стандартов безопасности для их защиты.
2. Этичные аспекты и управление: Использование ИИ требует внимательного подхода к вопросам приватности, этики и управления данными, особенно при взаимодействии с персональными данными или критически важной информацией.
3. Риски эксплуатации: Направление LLM на некорректные действия может привести к непреднамеренным последствиям, включая распространение дезинформации или утечку данных.
🚀 Рекомендации от OWASP:
- Разработка и применение политик безопасности для защиты данных и предотвращения злоупотреблений LLM.
- Внедрение контроля доступа и аудит логов взаимодействий с моделями для отслеживания аномалий.
- Использование безопасных методов разработки и обучения моделей для минимизации рисков.
📐 OWASP продолжает работать над созданием комплексных рекомендаций и инструментов для обеспечения безопасности при использовании крупных языковых моделей в киберпространстве.
🔗 Подробнее о проектах OWASP и их подходах к безопасности LLM можно узнать по ссылке.
Stay secure and read SecureTechTalks 📚
#кибербезопасность #ИИ #OWASP #LLM #информационнаябезопасность
OWASP (Open Web Application Security Project) недавно представила инициативу по разработке стандартов, руководств безопасности и управлению крупными языковыми моделями (LLM), такими как GPT-4. В условиях, когда технологии ИИ становятся всё более интегрированными в различные сферы, включая кибербезопасность, возникает множество новых рисков и уязвимостей.
🛡️ Основные вызовы и риски:
1. Уязвимости в LLM: Крупные языковые модели могут быть уязвимы для атак, таких как инъекции запросов и манипуляции данными, что делает необходимым создание стандартов безопасности для их защиты.
2. Этичные аспекты и управление: Использование ИИ требует внимательного подхода к вопросам приватности, этики и управления данными, особенно при взаимодействии с персональными данными или критически важной информацией.
3. Риски эксплуатации: Направление LLM на некорректные действия может привести к непреднамеренным последствиям, включая распространение дезинформации или утечку данных.
🚀 Рекомендации от OWASP:
- Разработка и применение политик безопасности для защиты данных и предотвращения злоупотреблений LLM.
- Внедрение контроля доступа и аудит логов взаимодействий с моделями для отслеживания аномалий.
- Использование безопасных методов разработки и обучения моделей для минимизации рисков.
📐 OWASP продолжает работать над созданием комплексных рекомендаций и инструментов для обеспечения безопасности при использовании крупных языковых моделей в киберпространстве.
🔗 Подробнее о проектах OWASP и их подходах к безопасности LLM можно узнать по ссылке.
Stay secure and read SecureTechTalks 📚
#кибербезопасность #ИИ #OWASP #LLM #информационнаябезопасность
🍯 Respotter: Honeypot для обнаружения атак в сети 🕵️♂️
📌 Respotter — инструмент с открытым исходным кодом, разработанный для обнаружения атак с использованием утилиты Responder. Responder — популярный инструмент для атак LLMNR/NBT-NS Poisoning, который злоумышленники применяют для перехвата учетных данных в Windows-сетях. Respotter помогает вовремя распознать зловредную активность и защитить инфраструктуру от компрометации.
Как работает Respotter?
🔍 Honeypot для Responder: Respotter использует протоколы LLMNR, mDNS и NBNS для поиска поддельных имен хостов, которых нет в сети. Если Responder активен, он откликнется на запросы, что позволит Respotter его обнаружить.
📢 Оповещения и интеграция: При обнаружении активности Respotter может отправлять уведомления через webhooks в Slack, Teams или Discord, а также передавать события на сервер syslog для последующего анализа с помощью SIEM (оповещения ограничены одним предупреждением на IP в час. ).
🔧 Помощь в конфигурации сети: Respotter подскажет, что может перестать работать, если вы решите отключить LLMNR, mDNS и NetBIOS. Если в процессе мониторинга будут найдены запросы, требующие внимания, инструмент даст рекомендации по их устранению. Как только все проблемы будут решены, вы сможете безопасно отключить протоколы на узлах в пределах подсети Respotter.
🛡️ Обнаружение других инструментов: Respotter также может выявить утилиты, похожие на Responder, такие как Inveigh, которые используются для выполнения схожих атак.
🔗 Продукт доступен на GitHub
Stay secure and read SecureTechTalks 📚
#кибербезопасность #honeypot #LLMNR #SecureTechTalks #инфобезопасность
📌 Respotter — инструмент с открытым исходным кодом, разработанный для обнаружения атак с использованием утилиты Responder. Responder — популярный инструмент для атак LLMNR/NBT-NS Poisoning, который злоумышленники применяют для перехвата учетных данных в Windows-сетях. Respotter помогает вовремя распознать зловредную активность и защитить инфраструктуру от компрометации.
Как работает Respotter?
🔍 Honeypot для Responder: Respotter использует протоколы LLMNR, mDNS и NBNS для поиска поддельных имен хостов, которых нет в сети. Если Responder активен, он откликнется на запросы, что позволит Respotter его обнаружить.
📢 Оповещения и интеграция: При обнаружении активности Respotter может отправлять уведомления через webhooks в Slack, Teams или Discord, а также передавать события на сервер syslog для последующего анализа с помощью SIEM (
🔧 Помощь в конфигурации сети: Respotter подскажет, что может перестать работать, если вы решите отключить LLMNR, mDNS и NetBIOS. Если в процессе мониторинга будут найдены запросы, требующие внимания, инструмент даст рекомендации по их устранению. Как только все проблемы будут решены, вы сможете безопасно отключить протоколы на узлах в пределах подсети Respotter.
🛡️ Обнаружение других инструментов: Respotter также может выявить утилиты, похожие на Responder, такие как Inveigh, которые используются для выполнения схожих атак.
🔗 Продукт доступен на GitHub
Stay secure and read SecureTechTalks 📚
#кибербезопасность #honeypot #LLMNR #SecureTechTalks #инфобезопасность
❤1
⚙ SDOoop: Механизм Выявления Аномалий в Потоковых Данных
🎯 SDOoop — метод, разработанный для обнаружения аномалий в потоковых данных. В отличие от традиционных алгоритмов, SDOoop сохраняет временную информацию о структуре данных и позволяет выявлять контекстные аномалии, которые не видны при использовании стандартных подходов.
🔍 Основные возможности SDOoop:
- Выявление контекстных аномалий: SDOoop фиксирует временные закономерности в данных, что позволяет обнаруживать аномалии, возникающие вне ожидаемого временного контекста.
- Обработка больших данных: Алгоритм работает с постоянной пространственной и временной сложностью на каждый образец, что делает его идеальным для анализа больших объемов информации.
- Анализ сетевых коммуникаций: SDOoop был использован для моделирования реальных сетевых коммуникаций в критически важных инфраструктурах и показал свою эффективность в выявлении динамики их работы.
🛠 Технические детали:
- SDOoop использует усредненное экспоненциальное скользящее окно (EWMA) для оценки модели на основе поступающих данных, что позволяет ему адаптироваться к новым паттернам и забывать устаревшие.
- Модели строятся на основе выборки фиксированного числа точек данных, которые называются наблюдателями. Эти наблюдатели также сохраняют временную информацию с помощью коэффициентов преобразования Фурье.
- SDOoop позволяет легко интегрироваться в существующие системы обработки данных и служит основой для дальнейшего анализа, визуализации и кластеризации данных.
🔧 Применение в практике:
- В экспериментальных тестах SDOoop показал производительность, сопоставимую или превосходящую современные подходы, включая в задачи обнаружения аномалий в сетевом трафике и потоковых данных из различных доменов, таких как обнаружение вторжений и анализ природных явлений.
📊 Примеры применения:
- Сетевые коммуникации в критических инфраструктурах: Алгоритм успешно выявлял периодические паттерны в сетевом трафике энергетической компании, обеспечивающей зарядные станции для электромобилей, что помогало в анализе и понимании работы системы.
- Анализ "темных пространств": SDOoop продемонстрировал способность обнаруживать суточные и полусуточные периодичности в "темных" данных (данные из пространств IP-адресов, на которые нет активных хостов), что помогло в выявлении вредоносной активности.
🔗 Подробнее об алгоритме SDOoop можно узнать на странице GitHub.
Stay secure and read SecureTechTalks 📚
#datastream #SDOoop #analysis #algorithm #science #opensource
🎯 SDOoop — метод, разработанный для обнаружения аномалий в потоковых данных. В отличие от традиционных алгоритмов, SDOoop сохраняет временную информацию о структуре данных и позволяет выявлять контекстные аномалии, которые не видны при использовании стандартных подходов.
🔍 Основные возможности SDOoop:
- Выявление контекстных аномалий: SDOoop фиксирует временные закономерности в данных, что позволяет обнаруживать аномалии, возникающие вне ожидаемого временного контекста.
- Обработка больших данных: Алгоритм работает с постоянной пространственной и временной сложностью на каждый образец, что делает его идеальным для анализа больших объемов информации.
- Анализ сетевых коммуникаций: SDOoop был использован для моделирования реальных сетевых коммуникаций в критически важных инфраструктурах и показал свою эффективность в выявлении динамики их работы.
🛠 Технические детали:
- SDOoop использует усредненное экспоненциальное скользящее окно (EWMA) для оценки модели на основе поступающих данных, что позволяет ему адаптироваться к новым паттернам и забывать устаревшие.
- Модели строятся на основе выборки фиксированного числа точек данных, которые называются наблюдателями. Эти наблюдатели также сохраняют временную информацию с помощью коэффициентов преобразования Фурье.
- SDOoop позволяет легко интегрироваться в существующие системы обработки данных и служит основой для дальнейшего анализа, визуализации и кластеризации данных.
🔧 Применение в практике:
- В экспериментальных тестах SDOoop показал производительность, сопоставимую или превосходящую современные подходы, включая в задачи обнаружения аномалий в сетевом трафике и потоковых данных из различных доменов, таких как обнаружение вторжений и анализ природных явлений.
📊 Примеры применения:
- Сетевые коммуникации в критических инфраструктурах: Алгоритм успешно выявлял периодические паттерны в сетевом трафике энергетической компании, обеспечивающей зарядные станции для электромобилей, что помогало в анализе и понимании работы системы.
- Анализ "темных пространств": SDOoop продемонстрировал способность обнаруживать суточные и полусуточные периодичности в "темных" данных (данные из пространств IP-адресов, на которые нет активных хостов), что помогло в выявлении вредоносной активности.
🔗 Подробнее об алгоритме SDOoop можно узнать на странице GitHub.
Stay secure and read SecureTechTalks 📚
#datastream #SDOoop #analysis #algorithm #science #opensource
🔍 Векторные базы данных и большие языковые модели: тренды и их влияние
📊 Векторные базы данных (VDBs) и большие языковые модели (LLMs) становятся все более значимыми во всех сферах. Данные определяют развитие технологий, а вычислительные достижения диктуют тренды. В контексте современных приложений искусственного интеллекта роль векторных баз данных становится особенно важной.
💡 Как LLMs используют векторные базы данных?
🗃 Хранение векторных представлений слов: Модели используют эмбеддинги слов (Word2Vec, GloVe, FastText), представляя слова как векторы в многомерном пространстве. Векторные базы данных могут хранить эти эмбеддинги и эффективно извлекать их в реальном времени.
🔍 Семантическое сходство: После представления слов или предложений в виде векторов, можно легко найти семантически схожие элементы. Векторная база данных быстро возвращает ближайшие векторы, отражающие семантическое сходство.
⚙️ Эффективный поиск в больших объемах данных: Для задач информационного поиска или рекомендаций LLMs могут использовать векторные представления документов, чтобы быстро находить наиболее релевантные данные.
🌐 Память переводов: В машинном переводе ранее выполненные переводы можно хранить в виде векторов, что позволяет использовать или адаптировать их для новых запросов, улучшая скорость и согласованность перевода.
🧠 Эмбеддинги графов знаний: Векторные базы данных помогают хранить и извлекать эмбеддинги сущностей и отношений из графов знаний, что полезно для задач предсказания связей и разрешения сущностей.
🚨 Обнаружение аномалий: В задачах классификации текста или обнаружения спама векторные представления текстов могут быть использованы для поиска аномалий.
📈 Почему LLMs нуждаются в векторных базах данных?
Поиск сходства в многомерных пространствах — это задача поиска элементов в наборе данных, которые похожи на заданный запрос, когда данные представлены в многомерном пространстве. Традиционные базы данных малоэффективны при выполнении таких задач. Векторные базы данных, напротив, разработаны для эффективного индексирования и поиска в больших коллекциях многомерных векторов.
Для выполнения поиска сходства необходимо использовать запрос в виде вектора, который включает ваши критерии поиска. Далее применяется метрика сходства (например, косинусное сходство или евклидово расстояние), чтобы определить близость между векторами. В результате получаем список векторов, отсортированных по степени сходства с запросом.
💰 На данный момент векторные базы данных используются преимущественно крупными технокомпаниями, обладающими ресурсами для их создания и поддержки. Из-за высокой стоимости важно правильно оптимизировать эти базы данных для достижения максимальной производительности.
Stay secure and read SecureTechTalks 📚
#SecureTechTalks #Кибербезопасность #ИИ #ВекторныеБазыДанных #БольшиеЯзыковыеМодели
📊 Векторные базы данных (VDBs) и большие языковые модели (LLMs) становятся все более значимыми во всех сферах. Данные определяют развитие технологий, а вычислительные достижения диктуют тренды. В контексте современных приложений искусственного интеллекта роль векторных баз данных становится особенно важной.
💡 Как LLMs используют векторные базы данных?
🗃 Хранение векторных представлений слов: Модели используют эмбеддинги слов (Word2Vec, GloVe, FastText), представляя слова как векторы в многомерном пространстве. Векторные базы данных могут хранить эти эмбеддинги и эффективно извлекать их в реальном времени.
🔍 Семантическое сходство: После представления слов или предложений в виде векторов, можно легко найти семантически схожие элементы. Векторная база данных быстро возвращает ближайшие векторы, отражающие семантическое сходство.
⚙️ Эффективный поиск в больших объемах данных: Для задач информационного поиска или рекомендаций LLMs могут использовать векторные представления документов, чтобы быстро находить наиболее релевантные данные.
🌐 Память переводов: В машинном переводе ранее выполненные переводы можно хранить в виде векторов, что позволяет использовать или адаптировать их для новых запросов, улучшая скорость и согласованность перевода.
🧠 Эмбеддинги графов знаний: Векторные базы данных помогают хранить и извлекать эмбеддинги сущностей и отношений из графов знаний, что полезно для задач предсказания связей и разрешения сущностей.
🚨 Обнаружение аномалий: В задачах классификации текста или обнаружения спама векторные представления текстов могут быть использованы для поиска аномалий.
📈 Почему LLMs нуждаются в векторных базах данных?
Поиск сходства в многомерных пространствах — это задача поиска элементов в наборе данных, которые похожи на заданный запрос, когда данные представлены в многомерном пространстве. Традиционные базы данных малоэффективны при выполнении таких задач. Векторные базы данных, напротив, разработаны для эффективного индексирования и поиска в больших коллекциях многомерных векторов.
Для выполнения поиска сходства необходимо использовать запрос в виде вектора, который включает ваши критерии поиска. Далее применяется метрика сходства (например, косинусное сходство или евклидово расстояние), чтобы определить близость между векторами. В результате получаем список векторов, отсортированных по степени сходства с запросом.
💰 На данный момент векторные базы данных используются преимущественно крупными технокомпаниями, обладающими ресурсами для их создания и поддержки. Из-за высокой стоимости важно правильно оптимизировать эти базы данных для достижения максимальной производительности.
Stay secure and read SecureTechTalks 📚
#SecureTechTalks #Кибербезопасность #ИИ #ВекторныеБазыДанных #БольшиеЯзыковыеМодели
🎯 Тенденции бюджетов на кибербезопасность в 2024 году
👨🔬 Исследовательские компании IANS Research и Artico Search опубликовали отчёт, освещающий состояние бюджетов на безопасность в 2024 году. Документ показывает, как глобальные экономические вызовы влияют на финансирование и кадровое обеспечение в области кибербезопасности. В опросе приняли участие более 750 директоров по информационной безопасности (CISO).
📉 Стабильность и осторожность
Компании продолжают осторожно подходить к расходам в условиях экономической и геополитической неопределённости. Это особенно заметно в бюджетах на кибербезопасность, которые в большинстве своём остаются на прежнем уровне или увеличиваются минимально. По словам старшего директора по исследованиям в IANS Ника Каколовски, основным приоритетом остаётся защита от растущих угроз, таких как атаки с использованием ИИ, но при этом финансирование распределяется очень аккуратно.
📊 Основные выводы отчёта
— Рост бюджетов на безопасность составил 8%, что выше 6% в 2023 году, но всё ещё ниже показателей 2021 и 2022 годов (16% и 17% соответственно).
— Доля расходов на безопасность в общих IT-бюджетах продолжает увеличиваться, достигнув 13,2% в 2024 году по сравнению с 8,6% в 2020 году.
— Внешние факторы, такие как инциденты и новые риски, связанные с внедрением ИИ, способствуют значительному росту бюджетов.
— В некоторых отраслях, таких как финансовый сектор, IT и розничная торговля, наблюдается небольшой рост бюджетов. Однако в здравоохранении и сфере потребительских услуг фиксируются сокращения финансирования.
👥 Проблемы с набором персонала
Несмотря на увеличение бюджетов, рост численности сотрудников замедляется. В 2024 году этот показатель снизился до 12%, по сравнению с 31% в 2022 году. Эксперт IANS Стив Мартано отмечает, что сложности с привлечением новых сотрудников создают дополнительные нагрузки на текущие команды по кибербезопасности.
🔍 Выводы для руководителей
Эффективность кибербезопасности не всегда зависит от размера бюджета. Компании, способные оптимизировать процессы и стимулировать инновации среди сотрудников, могут добиться высокого уровня защиты даже при ограниченных ресурсах. Ключевыми факторами успеха становятся не только технологии, но и развитие человеческого потенциала, креативность и адаптивность специалистов по безопасности.
🔐 В условиях экономической нестабильности именно сплочённые и мотивированные команды способны создать наиболее надёжный щит против киберугроз.
Stay secure and read SecureTechTalks 📚
#Кибербезопасность #ИБ #Бюджеты2024 #ИнформационнаяБезопасность #SecureTechTalks
👨🔬 Исследовательские компании IANS Research и Artico Search опубликовали отчёт, освещающий состояние бюджетов на безопасность в 2024 году. Документ показывает, как глобальные экономические вызовы влияют на финансирование и кадровое обеспечение в области кибербезопасности. В опросе приняли участие более 750 директоров по информационной безопасности (CISO).
📉 Стабильность и осторожность
Компании продолжают осторожно подходить к расходам в условиях экономической и геополитической неопределённости. Это особенно заметно в бюджетах на кибербезопасность, которые в большинстве своём остаются на прежнем уровне или увеличиваются минимально. По словам старшего директора по исследованиям в IANS Ника Каколовски, основным приоритетом остаётся защита от растущих угроз, таких как атаки с использованием ИИ, но при этом финансирование распределяется очень аккуратно.
📊 Основные выводы отчёта
— Рост бюджетов на безопасность составил 8%, что выше 6% в 2023 году, но всё ещё ниже показателей 2021 и 2022 годов (16% и 17% соответственно).
— Доля расходов на безопасность в общих IT-бюджетах продолжает увеличиваться, достигнув 13,2% в 2024 году по сравнению с 8,6% в 2020 году.
— Внешние факторы, такие как инциденты и новые риски, связанные с внедрением ИИ, способствуют значительному росту бюджетов.
— В некоторых отраслях, таких как финансовый сектор, IT и розничная торговля, наблюдается небольшой рост бюджетов. Однако в здравоохранении и сфере потребительских услуг фиксируются сокращения финансирования.
👥 Проблемы с набором персонала
Несмотря на увеличение бюджетов, рост численности сотрудников замедляется. В 2024 году этот показатель снизился до 12%, по сравнению с 31% в 2022 году. Эксперт IANS Стив Мартано отмечает, что сложности с привлечением новых сотрудников создают дополнительные нагрузки на текущие команды по кибербезопасности.
🔍 Выводы для руководителей
Эффективность кибербезопасности не всегда зависит от размера бюджета. Компании, способные оптимизировать процессы и стимулировать инновации среди сотрудников, могут добиться высокого уровня защиты даже при ограниченных ресурсах. Ключевыми факторами успеха становятся не только технологии, но и развитие человеческого потенциала, креативность и адаптивность специалистов по безопасности.
🔐 В условиях экономической нестабильности именно сплочённые и мотивированные команды способны создать наиболее надёжный щит против киберугроз.
Stay secure and read SecureTechTalks 📚
#Кибербезопасность #ИБ #Бюджеты2024 #ИнформационнаяБезопасность #SecureTechTalks
💔 Критические уязвимости в Kibana: что нужно знать и как защититься?
Elastic объявила об обнаружении двух критических уязвимостей в Kibana. Уязвимости, зарегистрированные под кодами CVE-2024-37288 и CVE-2024-37285, позволяют злоумышленникам выполнять произвольный код через уязвимости десериализации YAML.
CVE-2024-37288: Уязвимость в Amazon Bedrock Connector
📉 Первая уязвимость затрагивает версию Kibana 8.15.0 и связана с десериализацией YAML в Amazon Bedrock Connector, одном из встроенных инструментов Elastic Security на базе ИИ. Злоумышленники могут воспользоваться этой уязвимостью, отправив специально сформированный YAML-документ, который при разборе может привести к выполнению произвольного кода.
📌 Кого касается?
Уязвимость опасна для пользователей, которые настроили использование Amazon Bedrock Connector. Те, кто использует данную интеграцию, находятся в зоне риска.
🔧 Рекомендации по устранению
Для устранения уязвимости Elastic выпустила обновление Kibana до версии 8.15.1. Рекомендуется как можно скорее установить обновление. Если немедленное обновление невозможно, временным решением может стать отключение помощника путем добавления строки в конфигурационный файл
CVE-2024-37285: Зависимость от привилегий
📉 Вторая уязвимость затрагивает более широкий спектр версий Kibana — с 8.10.0 по 8.15.0. Она также связана с десериализацией YAML, но требует особых условий для эксплуатации, включая специфический набор привилегий в Elasticsearch и Kibana.
📌 Необходимые условия для эксплуатации
Для успешной эксплуатации уязвимости злоумышленник должен иметь определенные привилегии в Elasticsearch и Kibana, включая права на запись в системные индексы
🔧 Рекомендации по устранению
Как и в случае с первой уязвимостью, рекомендуется обновить Kibana до версии 8.15.1. Также организациям следует пересмотреть и ужесточить конфигурации привилегий для минимизации риска эксплуатации.
⚠️ Обе уязвимости получили высокие оценки по CVSS: CVE-2024-37288 имеет балл 9.9, а CVE-2024-37285 — 9.1, что подчеркивает высокую вероятность эксплуатации и серьезные последствия, включая угрозу конфиденциальности, целостности и доступности данных.
🔗 Ознакомиться с полными рекомендациями и скачать обновления можно на GitHub Elastic.
Stay secure and read SecureTechTalks 📚
#Кибербезопасность #Kibana #Уязвимости #Elastic #SecureTechTalks
Elastic объявила об обнаружении двух критических уязвимостей в Kibana. Уязвимости, зарегистрированные под кодами CVE-2024-37288 и CVE-2024-37285, позволяют злоумышленникам выполнять произвольный код через уязвимости десериализации YAML.
CVE-2024-37288: Уязвимость в Amazon Bedrock Connector
📉 Первая уязвимость затрагивает версию Kibana 8.15.0 и связана с десериализацией YAML в Amazon Bedrock Connector, одном из встроенных инструментов Elastic Security на базе ИИ. Злоумышленники могут воспользоваться этой уязвимостью, отправив специально сформированный YAML-документ, который при разборе может привести к выполнению произвольного кода.
📌 Кого касается?
Уязвимость опасна для пользователей, которые настроили использование Amazon Bedrock Connector. Те, кто использует данную интеграцию, находятся в зоне риска.
🔧 Рекомендации по устранению
Для устранения уязвимости Elastic выпустила обновление Kibana до версии 8.15.1. Рекомендуется как можно скорее установить обновление. Если немедленное обновление невозможно, временным решением может стать отключение помощника путем добавления строки в конфигурационный файл
kibana.yml:xpack.integration_assistant.enabled: false
CVE-2024-37285: Зависимость от привилегий
📉 Вторая уязвимость затрагивает более широкий спектр версий Kibana — с 8.10.0 по 8.15.0. Она также связана с десериализацией YAML, но требует особых условий для эксплуатации, включая специфический набор привилегий в Elasticsearch и Kibana.
📌 Необходимые условия для эксплуатации
Для успешной эксплуатации уязвимости злоумышленник должен иметь определенные привилегии в Elasticsearch и Kibana, включая права на запись в системные индексы
.kibana_ingest* и активированный флаг allow_restricted_indices, а также привилегии в Kibana, "All" под Fleet или "Read/All" под Integration.🔧 Рекомендации по устранению
Как и в случае с первой уязвимостью, рекомендуется обновить Kibana до версии 8.15.1. Также организациям следует пересмотреть и ужесточить конфигурации привилегий для минимизации риска эксплуатации.
⚠️ Обе уязвимости получили высокие оценки по CVSS: CVE-2024-37288 имеет балл 9.9, а CVE-2024-37285 — 9.1, что подчеркивает высокую вероятность эксплуатации и серьезные последствия, включая угрозу конфиденциальности, целостности и доступности данных.
🔗 Ознакомиться с полными рекомендациями и скачать обновления можно на GitHub Elastic.
Stay secure and read SecureTechTalks 📚
#Кибербезопасность #Kibana #Уязвимости #Elastic #SecureTechTalks
🗡 На шаг ближе к железному занавесу 🚧
🛡️ Роскомнадзор намерен инвестировать 59 миллиардов рублей в обновление системы блокировки интернет-ресурсов в российском сегменте сети с помощью технических средств противодействия угрозам (ТСПУ). Эти меры направлены на фильтрацию интернет-трафика и блокировку доступа к определённым ресурсам, что особенно актуально в свете увеличения объёмов интернет-трафика. Обновление должно значительно усилить противодействие VPN-сервисам.
🔒 В рамках федерального проекта «Инфраструктура кибербезопасности», который является частью национального проекта «Экономика данных и цифровая трансформация государства», модернизация ТСПУ будет происходить с 2025 по 2030 годы. Финансирование составит почти 59 миллиардов рублей, что составляет основную часть от общего бюджета проекта в 68,77 миллиарда рублей. Среди других инициатив проекта — разработка платформы для борьбы с мошенничеством и система для блокировки фишинговых сайтов.
🚀 Обновлённые ТСПУ будут оснащены новыми сигнатурами для идентификации и блокировки запрещённых ресурсов, а также защитой от DDoS-атак. Ожидается увеличение пропускной способности до 725,6 Тбит/с и повышение эффективности борьбы с VPN-трафиком до 96%. Ответственными за реализацию назначены высокопоставленные представители Роскомнадзора и Минцифры.
🕵️ Система блокировки интернет-ресурсов была полностью развернута в России относительно недавно, а её ключевые узлы, включая мобильную и трансграничную связи, оборудованы ТСПУ на 100%.
🔍 Эксперты отрасли отмечают, что модернизация может привести к снижению эффективности VPN-сервисов для обхода блокировок, однако полностью исключить доступ к заблокированным ресурсам будет сложно. Прогнозируется достижение блокировки до 90% трафика VPN-сервисов, хотя обойти ограничения всё ещё возможно техническими методами.
🏢 Для реализации закона «о суверенном Рунете» была создана компания «Данные — центр обработки и автоматизации» (ДЦОА), которая отвечает за внедрение ТСПУ на сетях всех операторов связи. Оборудование для ТСПУ разрабатывается компанией RDP.ru, связанной с «Ростелекомом». Финансовые показатели демонстрируют рост: выручка ДЦОА в 2022 году составила 12,4 миллиарда рублей, а RDP.ru в 2023 году заработала 7,3 миллиарда рублей.
Stay secure and read SecureTechTalks 📚
#Кибербезопасность #VPN #Роскомнадзор #ИнтернетКонтроль #ТСПУ
🛡️ Роскомнадзор намерен инвестировать 59 миллиардов рублей в обновление системы блокировки интернет-ресурсов в российском сегменте сети с помощью технических средств противодействия угрозам (ТСПУ). Эти меры направлены на фильтрацию интернет-трафика и блокировку доступа к определённым ресурсам, что особенно актуально в свете увеличения объёмов интернет-трафика. Обновление должно значительно усилить противодействие VPN-сервисам.
🔒 В рамках федерального проекта «Инфраструктура кибербезопасности», который является частью национального проекта «Экономика данных и цифровая трансформация государства», модернизация ТСПУ будет происходить с 2025 по 2030 годы. Финансирование составит почти 59 миллиардов рублей, что составляет основную часть от общего бюджета проекта в 68,77 миллиарда рублей. Среди других инициатив проекта — разработка платформы для борьбы с мошенничеством и система для блокировки фишинговых сайтов.
🚀 Обновлённые ТСПУ будут оснащены новыми сигнатурами для идентификации и блокировки запрещённых ресурсов, а также защитой от DDoS-атак. Ожидается увеличение пропускной способности до 725,6 Тбит/с и повышение эффективности борьбы с VPN-трафиком до 96%. Ответственными за реализацию назначены высокопоставленные представители Роскомнадзора и Минцифры.
🕵️ Система блокировки интернет-ресурсов была полностью развернута в России относительно недавно, а её ключевые узлы, включая мобильную и трансграничную связи, оборудованы ТСПУ на 100%.
🔍 Эксперты отрасли отмечают, что модернизация может привести к снижению эффективности VPN-сервисов для обхода блокировок, однако полностью исключить доступ к заблокированным ресурсам будет сложно. Прогнозируется достижение блокировки до 90% трафика VPN-сервисов, хотя обойти ограничения всё ещё возможно техническими методами.
🏢 Для реализации закона «о суверенном Рунете» была создана компания «Данные — центр обработки и автоматизации» (ДЦОА), которая отвечает за внедрение ТСПУ на сетях всех операторов связи. Оборудование для ТСПУ разрабатывается компанией RDP.ru, связанной с «Ростелекомом». Финансовые показатели демонстрируют рост: выручка ДЦОА в 2022 году составила 12,4 миллиарда рублей, а RDP.ru в 2023 году заработала 7,3 миллиарда рублей.
Stay secure and read SecureTechTalks 📚
#Кибербезопасность #VPN #Роскомнадзор #ИнтернетКонтроль #ТСПУ
👍1😱1
🛡️DockerSpy: Защита от утечек данных в Docker Hub 🐳
DockerSpy — инструмент с открытым исходным кодом, разработанный для поиска конфиденциальной информации в образах на Docker Hub. Он помогает выявлять чувствительные данные, которые могут случайно оказаться в общедоступных контейнерных образах.
📉 Продукт решает проблему утечек данных, связанных с публикацией секретов в Docker-образах. Многие разработчики, часто неосознанно, выкладывают на Docker Hub образы, содержащие критические данные — API-ключи, пароли и другие секреты. DockerSpy автоматизирует процесс получения и анализа этих образов, снижая риски и помогая обеспечить безопасность.
⚙️ Инструмент интегрируется с Docker Hub, автоматически загружая и анализируя образы без необходимости ручной загрузки. Движок сканирования настроен на выявление широкого спектра секретов, от захардкоженных учетных данных до более сложных паттернов, скрытых в коде. DockerSpy также предоставляет детализированные отчеты, помогая быстро реагировать на выявленные риски.
🔍 Зачем использовать OSINT на Docker Hub?
- Аудиты безопасности: Помогает выявить случайно включенные секреты, такие как API-ключи и токены аутентификации.
- Предотвращение инцидентов: Поиск утечек данных до их публикации позволяет избежать нарушений безопасности.
- Соответствие стандартам: Проверка на отсутствие секретов помогает соответствовать нормативным требованиям.
- Оценка уязвимостей: Регулярное выявление утечек секретов позволяет оперативно устранять уязвимости.
- Укрепление безопасности: Постоянный мониторинг Docker Hub способствует повышению общей безопасности.
🚀 Планы по развитию DockerSpy
В следующих версиях планируется интеграция моделей машинного обучения для улучшения обнаружения секретов, даже если они замаскированы или зашифрованы. Также будет добавлена возможность сканирования приватных репозиториев Docker и интеграция с CI/CD конвейерами, чтобы автоматизировать сканирование в процессе сборки и предотвратить попадание секретов в продакшн.
🔗 Ссылка на GitHub.
Stay secure and read SecureTechTalks 📚
#Кибербезопасность #Docker #OSINT #DockerSpy #SecureTechTalks
DockerSpy — инструмент с открытым исходным кодом, разработанный для поиска конфиденциальной информации в образах на Docker Hub. Он помогает выявлять чувствительные данные, которые могут случайно оказаться в общедоступных контейнерных образах.
📉 Продукт решает проблему утечек данных, связанных с публикацией секретов в Docker-образах. Многие разработчики, часто неосознанно, выкладывают на Docker Hub образы, содержащие критические данные — API-ключи, пароли и другие секреты. DockerSpy автоматизирует процесс получения и анализа этих образов, снижая риски и помогая обеспечить безопасность.
⚙️ Инструмент интегрируется с Docker Hub, автоматически загружая и анализируя образы без необходимости ручной загрузки. Движок сканирования настроен на выявление широкого спектра секретов, от захардкоженных учетных данных до более сложных паттернов, скрытых в коде. DockerSpy также предоставляет детализированные отчеты, помогая быстро реагировать на выявленные риски.
🔍 Зачем использовать OSINT на Docker Hub?
- Аудиты безопасности: Помогает выявить случайно включенные секреты, такие как API-ключи и токены аутентификации.
- Предотвращение инцидентов: Поиск утечек данных до их публикации позволяет избежать нарушений безопасности.
- Соответствие стандартам: Проверка на отсутствие секретов помогает соответствовать нормативным требованиям.
- Оценка уязвимостей: Регулярное выявление утечек секретов позволяет оперативно устранять уязвимости.
- Укрепление безопасности: Постоянный мониторинг Docker Hub способствует повышению общей безопасности.
🚀 Планы по развитию DockerSpy
В следующих версиях планируется интеграция моделей машинного обучения для улучшения обнаружения секретов, даже если они замаскированы или зашифрованы. Также будет добавлена возможность сканирования приватных репозиториев Docker и интеграция с CI/CD конвейерами, чтобы автоматизировать сканирование в процессе сборки и предотвратить попадание секретов в продакшн.
🔗 Ссылка на GitHub.
Stay secure and read SecureTechTalks 📚
#Кибербезопасность #Docker #OSINT #DockerSpy #SecureTechTalks
👍1
🛡️LLMFuzzer: инструмент выявления уязвимостей LLM
LLMFuzzer — open-source фреймворк для поиска уязвимостей в больших языковых моделях, разработанный для тестирования интеграции через API. Инструмент может быть полезен для специалистов по безопасности, пентестеров и исследователей в области кибербезопасности.
🔍 Основные особенности LLMFuzzer:
1. Тестирование интеграции LLM API: LLMFuzzer позволяет оценить безопасность интеграции языковых моделей в приложениях, проверяя возможные точки уязвимости.
2. Фаззинг для LLM: Инструмент использует фаззинг для обнаружения уязвимостей, что помогает выявить слабые места в языковых моделях и их интеграциях.
3. Модульная архитектура: Благодаря модульной архитектуре, продукт легко масштабируется и адаптируется под разные сценарии тестирования.
4. Широкий спектр стратегий фаззинга: Инструмент предлагает разнообразные стратегии фаззинга, что позволяет комплексно обнаруживать потенциальные уязвимости и обеспечить полный цикл тестирования.
📈 Дополнительная информация
Решение позволяет не только находить уязвимости, но и тестировать защитные меры, что важно для компаний, внедряющих ИИ-технологии в свои продукты и услуги.
🔗 GitHub репозиторий LLMFuzzer
Stay secure and read SecureTechTalks 📚
#Кибербезопасность #LLMFuzzer #OpenSource #Fuzzing #SecureTechTalks
LLMFuzzer — open-source фреймворк для поиска уязвимостей в больших языковых моделях, разработанный для тестирования интеграции через API. Инструмент может быть полезен для специалистов по безопасности, пентестеров и исследователей в области кибербезопасности.
🔍 Основные особенности LLMFuzzer:
1. Тестирование интеграции LLM API: LLMFuzzer позволяет оценить безопасность интеграции языковых моделей в приложениях, проверяя возможные точки уязвимости.
2. Фаззинг для LLM: Инструмент использует фаззинг для обнаружения уязвимостей, что помогает выявить слабые места в языковых моделях и их интеграциях.
3. Модульная архитектура: Благодаря модульной архитектуре, продукт легко масштабируется и адаптируется под разные сценарии тестирования.
4. Широкий спектр стратегий фаззинга: Инструмент предлагает разнообразные стратегии фаззинга, что позволяет комплексно обнаруживать потенциальные уязвимости и обеспечить полный цикл тестирования.
📈 Дополнительная информация
Решение позволяет не только находить уязвимости, но и тестировать защитные меры, что важно для компаний, внедряющих ИИ-технологии в свои продукты и услуги.
🔗 GitHub репозиторий LLMFuzzer
Stay secure and read SecureTechTalks 📚
#Кибербезопасность #LLMFuzzer #OpenSource #Fuzzing #SecureTechTalks
🐝 Исследуем механику атак хакеров с помощью ИИ
👨🏫 Исследователи представили инновационное решение для изучения кибератак — LLM Honeypot, который использует большие языковые модели для создания интерактивных систем-ловушек. Такие ловушки не только имитируют поведение реальных систем, но и активно взаимодействуют с атакующими, собирая ценные данные для анализа их тактик и методов.
Особенности LLM Honeypot:
🖥 Интерактивность и реализм: Благодаря тонкой настройке на основе данных команд и ответов, сгенерированных злоумышленниками, LLM Honeypot способен точно имитировать поведение Linux-сервера.
💾 Сбор и обработка данных: Для обучения модели были использованы данные из Cowrie honeypot, включая журналы атак и команды злоумышленников. Это позволило создать модель, которая не только реагирует на команды, но и дает информативные ответы, помогая лучше понимать поведение атакующих.
📏 Тонкая настройка модели: Модель была обучена с использованием методов Low-Rank Adaptation (LoRA) и Quantized Low-Rank Adapters (QLoRA), что позволило оптимизировать её производительность без потери качества.
💻 Интеграция с SSH-сервером: LLM интегрирована в специально разработанный SSH-сервер, который взаимодействует с атакующими через протокол SSH, эмулируя поведение настоящего сервера.
🔧 Архитектура системы: LLM Honeypot включает в себя интерфейс для атакующих, SSH-сервер и саму языковую модель. Атакующие могут подключаться через SSH и выполнять команды, на которые модель отвечает, имитируя поведение реального сервера. Все взаимодействия логируются для дальнейшего анализа.
📊 Результаты тестирования: Модель прошла обучение и была проверена "в бою" с использованием различных метрик, таких как косинусное сходство и расстояние Левенштейна, показав хорошие результаты по точности и соответствию с ожидаемыми выходными данными настоящих серверов.
🛡️ Перспективы и планы: В будущем исследователи планируют расширить наборы данных для обучения, внедрить дополнительные методы анализа поведения и развернуть систему на общедоступном IP для сбора данных о реальных атаках. Это позволит еще лучше адаптировать модель к новым угрозам и улучшить эффективность защиты.
Проект демонстрирует потенциал использования больших языковых моделей для улучшения кибербезопасности, создавая новые инструменты для борьбы с злоумышленниками и защиты критически важных систем.
Stay secure and read SecureTechTalks 📚
#LLM #honeypot #MachineLearning #science #cybersecurity
👨🏫 Исследователи представили инновационное решение для изучения кибератак — LLM Honeypot, который использует большие языковые модели для создания интерактивных систем-ловушек. Такие ловушки не только имитируют поведение реальных систем, но и активно взаимодействуют с атакующими, собирая ценные данные для анализа их тактик и методов.
Особенности LLM Honeypot:
🖥 Интерактивность и реализм: Благодаря тонкой настройке на основе данных команд и ответов, сгенерированных злоумышленниками, LLM Honeypot способен точно имитировать поведение Linux-сервера.
💾 Сбор и обработка данных: Для обучения модели были использованы данные из Cowrie honeypot, включая журналы атак и команды злоумышленников. Это позволило создать модель, которая не только реагирует на команды, но и дает информативные ответы, помогая лучше понимать поведение атакующих.
📏 Тонкая настройка модели: Модель была обучена с использованием методов Low-Rank Adaptation (LoRA) и Quantized Low-Rank Adapters (QLoRA), что позволило оптимизировать её производительность без потери качества.
💻 Интеграция с SSH-сервером: LLM интегрирована в специально разработанный SSH-сервер, который взаимодействует с атакующими через протокол SSH, эмулируя поведение настоящего сервера.
🔧 Архитектура системы: LLM Honeypot включает в себя интерфейс для атакующих, SSH-сервер и саму языковую модель. Атакующие могут подключаться через SSH и выполнять команды, на которые модель отвечает, имитируя поведение реального сервера. Все взаимодействия логируются для дальнейшего анализа.
📊 Результаты тестирования: Модель прошла обучение и была проверена "в бою" с использованием различных метрик, таких как косинусное сходство и расстояние Левенштейна, показав хорошие результаты по точности и соответствию с ожидаемыми выходными данными настоящих серверов.
🛡️ Перспективы и планы: В будущем исследователи планируют расширить наборы данных для обучения, внедрить дополнительные методы анализа поведения и развернуть систему на общедоступном IP для сбора данных о реальных атаках. Это позволит еще лучше адаптировать модель к новым угрозам и улучшить эффективность защиты.
Проект демонстрирует потенциал использования больших языковых моделей для улучшения кибербезопасности, создавая новые инструменты для борьбы с злоумышленниками и защиты критически важных систем.
Stay secure and read SecureTechTalks 📚
#LLM #honeypot #MachineLearning #science #cybersecurity
🛡Топ-10 рисков безопасности для LLM и способы защиты
С развитием технологий больших языковых моделей (LLM) возрастает угроза кибератак, связанных с их использованием. Представляем обзор ключевых рисков безопасности для LLM и методов их предотвращения:
😊 LLM01: Внедрение запросов (Prompt Injection)
Атаки на основе внедрения запросов возникают, когда злоумышленник изменяет вводные данные для манипуляции моделью, что может привести к утечке конфиденциальной информации.
📌 Решения:
Ограничьте доступ к системам через LLM и разделите внешние данные от запросов пользователей.
😊 LLM02: Небезопасная обработка вывода
Если вывод LLM принимается без проверки, это может привести к уязвимостям, таким как XSS и эскалация привилегий.
📌 Решения:
Валидация и тестирование выходных данных помогут предотвратить угрозы.
😊 LLM03: Отравление обучающих данных
Злоумышленники могут манипулировать обучающими данными, внедряя скрытые уязвимости и влиять на поведение модели.
📌 Решения:
Проверяйте источники данных и используйте песочницы для обучения.
😊 LLM04: Отказ в обслуживании модели (DoS)
Модель может подвергнуться атаке, перегружающей ресурсы через множество запросов, что приведет к сбоям.
📌 Решения:
Установите лимиты на потребление ресурсов для каждого запроса.
😊 LLM05: Уязвимости цепочки поставок
Цепочки поставок LLM могут быть подвержены атакам на уровне данных для обучения или подключаемых модулей.
📌 Решения:
Проверяйте источники данных и используйте надежные плагины.
😊 LLM06: Раскрытие конфиденциальной информации
Модель может случайно раскрыть чувствительные данные, что приведет к утечкам и нарушениям конфиденциальности.
📌 Решения:
Внедряйте меры по очистке и проверке данных на всех этапах обработки.
😊 LLM07: Небезопасный дизайн плагинов
Плохо разработанные плагины могут открыть возможности для атак, таких как удаленное выполнение кода.
📌 Решения:
Тестируйте плагины на уязвимости и используйте аутентификацию.
😊 LLM08: Чрезмерная автономия
Когда модели предоставляют слишком много полномочий, они могут выполнять нежелательные действия, нарушая конфиденциальность.
📌 Решения:
Ограничьте функции и требуйте подтверждения действий от человека.
😊 LLM09: Чрезмерное доверие
Полная зависимость от выводов LLM может привести к неправильным решениям и небезопасным последствиям.
📌 Решения:
Всегда проверяйте результаты модели с помощью внешних источников.
😊 LLM10: Кража модели
Модель может быть украдена или использована неправомерно, что приведет к потерям данных и финансовым убыткам.
📌 Решения:
Ограничьте доступ к модельным репозиториям и регулярно мониторьте их использование.
Stay secure and read SecureTechTalks 📚
#Кибербезопасность #SecureTechTalks #LLMSecurity #ИскусственныйИнтеллект #Киберугрозы #AIВзломы #ЗащитаДанных
С развитием технологий больших языковых моделей (LLM) возрастает угроза кибератак, связанных с их использованием. Представляем обзор ключевых рисков безопасности для LLM и методов их предотвращения:
😊 LLM01: Внедрение запросов (Prompt Injection)
Атаки на основе внедрения запросов возникают, когда злоумышленник изменяет вводные данные для манипуляции моделью, что может привести к утечке конфиденциальной информации.
📌 Решения:
Ограничьте доступ к системам через LLM и разделите внешние данные от запросов пользователей.
😊 LLM02: Небезопасная обработка вывода
Если вывод LLM принимается без проверки, это может привести к уязвимостям, таким как XSS и эскалация привилегий.
📌 Решения:
Валидация и тестирование выходных данных помогут предотвратить угрозы.
😊 LLM03: Отравление обучающих данных
Злоумышленники могут манипулировать обучающими данными, внедряя скрытые уязвимости и влиять на поведение модели.
📌 Решения:
Проверяйте источники данных и используйте песочницы для обучения.
😊 LLM04: Отказ в обслуживании модели (DoS)
Модель может подвергнуться атаке, перегружающей ресурсы через множество запросов, что приведет к сбоям.
📌 Решения:
Установите лимиты на потребление ресурсов для каждого запроса.
😊 LLM05: Уязвимости цепочки поставок
Цепочки поставок LLM могут быть подвержены атакам на уровне данных для обучения или подключаемых модулей.
📌 Решения:
Проверяйте источники данных и используйте надежные плагины.
😊 LLM06: Раскрытие конфиденциальной информации
Модель может случайно раскрыть чувствительные данные, что приведет к утечкам и нарушениям конфиденциальности.
📌 Решения:
Внедряйте меры по очистке и проверке данных на всех этапах обработки.
😊 LLM07: Небезопасный дизайн плагинов
Плохо разработанные плагины могут открыть возможности для атак, таких как удаленное выполнение кода.
📌 Решения:
Тестируйте плагины на уязвимости и используйте аутентификацию.
😊 LLM08: Чрезмерная автономия
Когда модели предоставляют слишком много полномочий, они могут выполнять нежелательные действия, нарушая конфиденциальность.
📌 Решения:
Ограничьте функции и требуйте подтверждения действий от человека.
😊 LLM09: Чрезмерное доверие
Полная зависимость от выводов LLM может привести к неправильным решениям и небезопасным последствиям.
📌 Решения:
Всегда проверяйте результаты модели с помощью внешних источников.
😊 LLM10: Кража модели
Модель может быть украдена или использована неправомерно, что приведет к потерям данных и финансовым убыткам.
📌 Решения:
Ограничьте доступ к модельным репозиториям и регулярно мониторьте их использование.
Stay secure and read SecureTechTalks 📚
#Кибербезопасность #SecureTechTalks #LLMSecurity #ИскусственныйИнтеллект #Киберугрозы #AIВзломы #ЗащитаДанных
🌐 Россия потеряла позиции в глобальном индексе кибербезопасности 🌐
📊 Международный союз электросвязи (МСЭ) опубликовал обновлённый Глобальный индекс кибербезопасности 2024 (GCI 2024). Согласно новому отчёту, Россия сместилась во второй уровень стран по уровню развития кибербезопасности, потеряв свой прежний статус. В 2021 году Россия занимала пятое место наряду с Малайзией и ОАЭ, но на этот раз её показатели ухудшились.
📉 Ключевые изменения:
В 2024 году 46 стран вошли в первую группу с наивысшим уровнем кибербезопасности, куда попали в основном европейские страны и США.
Россия оказалась на втором уровне, вместе с Китаем, Казахстаном, Швейцарией и Канадой, что свидетельствует о снижении её позиций по сравнению с предыдущими годами.
📑 Методология индекса основана на анализе 82 вопросов, касающихся правовых, технических и организационных мер по обеспечению безопасности, а также международного сотрудничества и развития потенциала.
📍 Кибербезопасность в мире: МСЭ отмечает, что многие страны усиливают свои меры по обеспечению кибербезопасности, но требуют ещё более решительных действий для противостояния глобальным угрозам. Особый прогресс демонстрируют страны Африки, где с 2021 года произошло значительное развитие этой области.
🚨 В условиях нарастающих угроз кибербезопасности, вопрос кадров требует особого внимания и координации усилий на всех уровнях — от подготовки обучений до модернизации инфраструктуры.
Stay secure and read SecureTechTalks 📚
#кибербезопасность #Россия #инфобез #ИТ #GCI2024 #SecureTechTalks #технологии
📊 Международный союз электросвязи (МСЭ) опубликовал обновлённый Глобальный индекс кибербезопасности 2024 (GCI 2024). Согласно новому отчёту, Россия сместилась во второй уровень стран по уровню развития кибербезопасности, потеряв свой прежний статус. В 2021 году Россия занимала пятое место наряду с Малайзией и ОАЭ, но на этот раз её показатели ухудшились.
📉 Ключевые изменения:
В 2024 году 46 стран вошли в первую группу с наивысшим уровнем кибербезопасности, куда попали в основном европейские страны и США.
Россия оказалась на втором уровне, вместе с Китаем, Казахстаном, Швейцарией и Канадой, что свидетельствует о снижении её позиций по сравнению с предыдущими годами.
📑 Методология индекса основана на анализе 82 вопросов, касающихся правовых, технических и организационных мер по обеспечению безопасности, а также международного сотрудничества и развития потенциала.
📍 Кибербезопасность в мире: МСЭ отмечает, что многие страны усиливают свои меры по обеспечению кибербезопасности, но требуют ещё более решительных действий для противостояния глобальным угрозам. Особый прогресс демонстрируют страны Африки, где с 2021 года произошло значительное развитие этой области.
🚨 В условиях нарастающих угроз кибербезопасности, вопрос кадров требует особого внимания и координации усилий на всех уровнях — от подготовки обучений до модернизации инфраструктуры.
Stay secure and read SecureTechTalks 📚
#кибербезопасность #Россия #инфобез #ИТ #GCI2024 #SecureTechTalks #технологии
🛡 Поддельные CAPTCHA: новый способ заражения вредоносным ПО
💻 Эксперты по кибербезопасности предупреждают о новой угрозе — поддельных CAPTCHA-тестах, которые используются злоумышленниками для установки вредоносного ПО на компьютеры Windows. Капча имитирует стандартные проверки, но скрывает команду, способную заразить систему.
⚠ Стандартные CAPTCHA-тесты обычно требуют от пользователя выполнения задач, таких как выбор изображений или ввод текста. Однако мошенники создали поддельную версию, которая предлагает выполнить определённые комбинации клавиш, такие как «Windows + R», что открывает окно для ввода команд. После этого тест просит пользователя вставить скопированную команду, активирующую вредоносный скрипт PowerShell.
🛡 Далее скрипт устанавливает инфостилер Lumma Stealer, который способен красть пароли, cookie-файлы и данные криптовалютных кошельков. Скрипт может быть активирован автоматически при посещении опасных сайтов.
🔐 Такие атаки активно распространяются через фишинговые письма и подозрительные сайты.
Как защититься?
🔒 Всегда проверяйте CAPTCHA и не выполняйте подозрительные команды. 💡 Используйте антивирусное ПО. 📧 Не переходите по подозрительным ссылкам в письмах и сообщениях.
Stay secure and read SecureTechTalks 📚
#кибербезопасность #CAPTCHA #вредоносноеПО #фишинг #информационнаябезопасность #SecureTechTalks #PowerShell #LummaStealer
💻 Эксперты по кибербезопасности предупреждают о новой угрозе — поддельных CAPTCHA-тестах, которые используются злоумышленниками для установки вредоносного ПО на компьютеры Windows. Капча имитирует стандартные проверки, но скрывает команду, способную заразить систему.
⚠ Стандартные CAPTCHA-тесты обычно требуют от пользователя выполнения задач, таких как выбор изображений или ввод текста. Однако мошенники создали поддельную версию, которая предлагает выполнить определённые комбинации клавиш, такие как «Windows + R», что открывает окно для ввода команд. После этого тест просит пользователя вставить скопированную команду, активирующую вредоносный скрипт PowerShell.
🛡 Далее скрипт устанавливает инфостилер Lumma Stealer, который способен красть пароли, cookie-файлы и данные криптовалютных кошельков. Скрипт может быть активирован автоматически при посещении опасных сайтов.
🔐 Такие атаки активно распространяются через фишинговые письма и подозрительные сайты.
Как защититься?
🔒 Всегда проверяйте CAPTCHA и не выполняйте подозрительные команды. 💡 Используйте антивирусное ПО. 📧 Не переходите по подозрительным ссылкам в письмах и сообщениях.
Stay secure and read SecureTechTalks 📚
#кибербезопасность #CAPTCHA #вредоносноеПО #фишинг #информационнаябезопасность #SecureTechTalks #PowerShell #LummaStealer
💡 Управление машинными идентификаторами: новая реальность безопасности
👥 Раньше управление учетными записями пользователей было одной из главных задач безопасности. Сегодня, с ростом гибридных и мультиоблачных сред, управление машинными идентификаторами стало новой, более сложной головной болью для ИБ-команд. Согласно данным CyberArk, число таких "нечеловеческих" идентификаторов (рабочие нагрузки, сервисы и др.) превышает количество пользовательских учетных записей в 45 раз.
🔍 Оценка и управление машинными идентификаторами Управлять тем, чего вы не видите, невозможно. Поэтому первое, что нужно сделать — это найти и выявить все существующие машинные идентификаторы в сети. Для этого существуют различные инструменты:
- SSH discovery для поиска старых SSH-ключей.
- Secrets discovery для выявления хардкодированных паролей и секретов.
- Certificate discovery для поиска забытых или устаревших сертификатов.
⚖️ При выборе инструментов перед вами встанет классическая дилемма: лучшие в своем классе или все в одном. Иногда универсальные решения не справляются с узкими задачами, поэтому лучше комбинировать подходы и выбирать инструменты, исходя из потребностей компании.
🔐 Решений для поиска секретов довольно много. Ранее мы писали о некоторых из них тут и тут. Ещё одним популярным продуктом в области защиты секретов является GitGuardian, который предлагает непрерывный мониторинг утечек секретов и управление машинными идентификаторами. В 2023 году GitGuardian зафиксировал 12,8 млн утечек секретов на GitHub, что подчеркивает серьезность проблемы и эффективность продукта.
🔗 Ссылка на GitHub GitGuardian.
📈 Будущее управления машинными идентификаторами Управление машинными идентификаторами — это сложная и постоянно меняющаяся задача. Инвестиции в инструменты для их обнаружения и защиты помогут вам не только усилить безопасность, но и подготовить организацию к будущим вызовам цифровой трансформации.
Stay secure and read SecureTechTalks 📚
#кибербезопасность #машинныеидентификаторы #GitGuardian #управлениебезопасностью #SecureTechTalks
👥 Раньше управление учетными записями пользователей было одной из главных задач безопасности. Сегодня, с ростом гибридных и мультиоблачных сред, управление машинными идентификаторами стало новой, более сложной головной болью для ИБ-команд. Согласно данным CyberArk, число таких "нечеловеческих" идентификаторов (рабочие нагрузки, сервисы и др.) превышает количество пользовательских учетных записей в 45 раз.
🔍 Оценка и управление машинными идентификаторами Управлять тем, чего вы не видите, невозможно. Поэтому первое, что нужно сделать — это найти и выявить все существующие машинные идентификаторы в сети. Для этого существуют различные инструменты:
- SSH discovery для поиска старых SSH-ключей.
- Secrets discovery для выявления хардкодированных паролей и секретов.
- Certificate discovery для поиска забытых или устаревших сертификатов.
⚖️ При выборе инструментов перед вами встанет классическая дилемма: лучшие в своем классе или все в одном. Иногда универсальные решения не справляются с узкими задачами, поэтому лучше комбинировать подходы и выбирать инструменты, исходя из потребностей компании.
🔐 Решений для поиска секретов довольно много. Ранее мы писали о некоторых из них тут и тут. Ещё одним популярным продуктом в области защиты секретов является GitGuardian, который предлагает непрерывный мониторинг утечек секретов и управление машинными идентификаторами. В 2023 году GitGuardian зафиксировал 12,8 млн утечек секретов на GitHub, что подчеркивает серьезность проблемы и эффективность продукта.
🔗 Ссылка на GitHub GitGuardian.
📈 Будущее управления машинными идентификаторами Управление машинными идентификаторами — это сложная и постоянно меняющаяся задача. Инвестиции в инструменты для их обнаружения и защиты помогут вам не только усилить безопасность, но и подготовить организацию к будущим вызовам цифровой трансформации.
Stay secure and read SecureTechTalks 📚
#кибербезопасность #машинныеидентификаторы #GitGuardian #управлениебезопасностью #SecureTechTalks