⚙ LCNC-платформы: новые риски утечек данных и подходы к защите

💻 Что такое LCNC?
Low-code/no-code (LCNC) платформы ускоряют разработку приложений, позволяя "гражданским разработчикам" без глубоких технических знаний создавать автоматизированные процессы и отчёты. Однако такие решения нередко обходят традиционные системы контроля безопасности, что создаёт новые угрозы.

🔍 Основные риски:

1️⃣Неправильная конфигурация: Автоматизация через LCNC может случайно сделать данные общедоступными.
2️⃣ Ненадёжные каналы передачи: Неодобренные хранилища или незащищённые протоколы подвергают информацию риску утечки.
3️⃣Ошибка пользователей: Неквалифицированные сотрудники могут случайно делиться конфиденциальными данными через открытые ссылки или несанкционированные каналы.

🛡 Как снизить риски:

- Мониторинг потоков данных: Автоматическое отслеживание перемещения информации.
- Ограничение публичного доступа: Постоянная проверка открытых ресурсов.
- Политики автоматизации: Ужесточение правил доступа и контроля за созданием автоматизированных процессов.

📈 Пути масштабирования безопасности:

1️⃣Централизация контроля за LCNC-приложениями.
2️⃣Автоматизация проверок новых автоматизаций.
3️⃣Регулярные аудиты и безопасный SDLC для LCNC.

Инновации не должны подрывать безопасность — адаптация инструментов для защиты LCNC станет залогом их безопасного использования.

Stay secure and read SecureTechTalks 📚

#кибербезопасность #LCNC #SecureTechTalks #nocode #cybersecurity #threats

📊 Статстика: рост количества open-source малварей

📈 Рост атак на open-source экосистему
Согласно отчёту Sonatype, количество вредоносных пакетов в open-source выросло на 200% в 2024 году по сравнению с 2023 годом. Всего зафиксировано более 778,500 случаев использования вредоносных компонентов. Злоумышленники всё чаще нацелены на популярные платформы, такие как npm и PyPI, используя низкий порог входа и отсутствие обязательной верификации.

🔍 Основные факты:

1️⃣ 98.5% атак приходится на npm — JavaScript остаётся основной целью злоумышленников.
2️⃣64.75% угроз — PUAs (потенциально нежелательные приложения), включая шпионское ПО и рекламные модули.
3️⃣Shadow downloads: увеличение загрузок вредоносных библиотек на 32.8% напрямую на машины разработчиков, минуя проверки репозиториев.

🛡 Какие выводы?

Разработчики стали ключевой мишенью, так как вредоносные пакеты проникают в цепочки поставок через CI/CD процессы. Компании должны внедрять проактивные меры защиты, включая анализ новых зависимостей перед их использованием.

Stay secure and read SecureTechTalks 📚

#кибербезопасность #malware #риск #развботчик
#opensource #SecureTechTalks

🛡OSINT-инструменты для анализа электронной почты и никнеймов

На Хабре вышла статья о полезных инструментах для OSINT-исследований, которые помогают анализировать электронную почту и никнеймы. Автор подробно рассказывает, как с помощью Open-source инструментов можно выявить утечки данных, привязки к аккаунтам и другую связанную информацию.

🌐 Основная информация:

🎯 Mosint: продвинутый анализ почты
Этот инструмент создан для автоматизации OSINT-исследований с акцентом на электронную почту.

Функционал:
1️⃣Проверяет адреса через сервисы, такие как HaveIBeenPwned, чтобы выявить утечки данных.
2️⃣Анализирует привязку почты к социальным сетям и аккаунтам.
3️⃣Сканирует через API известных платформ для выявления дополнительной информации, включая утечки паролей и активности.

🔨Применение:
1️⃣Полезен для специалистов по информационной безопасности, работающих с инцидентами и расследованиями.
2️⃣Эффективен для обнаружения компрометированных учётных записей.

💻 Social Analyzer: поиск аккаунтов по никнеймам
Это мощный инструмент для сбора данных на основе никнеймов.

Функционал:
1️⃣Поддержка более 1000 онлайн-платформ, включая соцсети, мессенджеры и форумы.
2️⃣Анализ метаданных и активности для построения цифрового портрета.
3️⃣Поддержка графического интерфейса для удобной визуализации.

Преимущества:
1️⃣Позволяет быстро находить профили и связанные данные.
2️⃣Полезен для изучения публичной активности и построения OSINT-отчётов.

🔗Полный обзор в статье на Habr.

Stay secure and read SecureTechTalks 📚

#OSINT #кибербезопасность #SecureTechTalks #opensource #инструменты #поиск

👍 FuzzyAI: инструмент для анализа безопасности языковых моделей (LLM)

🔍 FuzzyAI — инструмент с открытым исходным кодом для автоматизированного фаззинга языковых моделей, разработанный для обнаружения и устранения уязвимостей. Цель — сделать использование и разработку LLM более безопасными, выявляя слабые места, такие как обход фильтров, утечки информации или генерация вредоносного контента.

📌 Основные возможности:

1⃣ Обширный фаззинг: Использует более 10 методов атак, включая обходы "этических фильтров", инъекции подсказок и раскрытие скрытых системных инструкций.
2⃣ Расширяемая платформа: Позволяет разработчикам добавлять собственные методы атак для анализа специфических уязвимостей в их домене.
3⃣ Сотрудничество сообщества: Активная поддержка и обмен новыми техниками атак и защитных механизмов через сообщество.

💻 Совместимость:
FuzzyAI поддерживает интеграцию с различными облачными и локальными платформами, такими как:
- OpenAI
- Anthropic
- HuggingFace
- AWS Bedrock
- Azure Cloud
- Gemini
- Custom REST API

🔧 FuzzyAI позволяет:

🔘 Проверять уязвимости в cloud-hosted и локальных моделях.
🔘 Тестировать защитные меры для предотвращения атак.
🔘 Повышать безопасность LLM для конечных пользователей.

📂 FuzzyAI доступен на GitHub

Stay secure and read SecureTechTalks 📚

#кибербезопасность #LLM #фаззинг #SecureTechTalks #chatgpt #llm #opensource #cybersecurity

💬 Prompt Injection и CSP: вызовы безопасности ИИ

🔍 Prompt Injection — атаки, при которых злоумышленники добавляют вредоносные данные в подсказки для больших языковых моделей (LLM). Такие атаки могут обходить ограничения, извлекать конфиденциальные данные или искажать результаты модели.

📌 Риски для безопасности:

- Конфиденциальность: Утечка данных через вредоносные гиперссылки или манипуляции с контентом.
- Целостность: Генерация ложной информации или фишинговых ссылок.
- Доступность: Бесконечные циклы или сбои системы.

🛡 Использование политик безопасности контента (CSP):
Политики безопасности контента — это механизм, позволяющий ограничить доступ веб-приложений к внешним ресурсам. CSP защищает от атак, таких как Prompt Injection, рендеринг недоверенного контента и утечка данных.

Как работает CSP?

1⃣ Контроль источников данных: Ограничение загрузки скриптов, стилей и мультимедиа только доверенными источниками.
2⃣ Запрет выполнения inline-кода: CSP блокирует выполнение встроенного JavaScript.
3⃣ Мониторинг и отчёты: Логи о попытках нарушений помогают анализировать и устранять угрозы.
4⃣ Снижение рисков XSS: Фильтрация вредоносного кода, подаваемого через запросы пользователя.

Реализация:
CSP добавляется в заголовки HTTP-ответов. Например:

Content-Security-Policy: default-src 'self'; noscript-src 'self' https://trustednoscripts.example.com

🛡Данные меры помогают предотвратить исполнение вредоносных инструкций в подсказках.

🎯 Вывод:

Prompt Injection — серьёзный вызов для безопасности ИИ. CSP и другие методы проактивной защиты позволяют минимизировать риски таких атак и укрепить надёжность моделей.

Stay secure and read SecureTechTalks 📚

#кибербезопасность #PromptInjection #CSP #SecureTechTalks #информационнаябезопасность #ИИ #защитаданных

🌡 Best-of-N Jailbreaking: новый универсальный метод взлома chatgpt и других языковых моделей

🛡Best-of-N Jailbreaking — метод взлома языковых моделей (LLM), предложенный компанией Anthropic. Он позволяет обойти защиту ИИ, используя автоматическую генерацию множества модифицированных запросов, чтобы найти их уязвимые места. BoN применим к текстовым, аудиальным и визуальным моделям, что делает его универсальным подходом к исследованию безопасности LLM.

🔍 Как работает BoN?

🔤 Создание множества запросов: Генерация искажённых версий исходного запроса, включая ошибки, замену символов, вставки шумов или переформулировку.
🔤 Проверка обхода: Каждая версия запроса тестируется на успешность обхода защитных механизмов модели.
🔤 Оптимизация: Итеративное улучшение методов атак для повышения успешности.

📊 Ключевые результаты:

1⃣ Успешность: На GPT-4o атака срабатывает в 89% случаев, на Claude 3.5 — в 78%.
2⃣ Поддержка модальностей: Метод применим к тексту, изображениям и аудио, что расширяет его применение для многомодальных моделей.
3⃣ Пример использования: BoN может использоваться для обхода фильтров, получения запрещённых ответов или раскрытия скрытых системных подсказок.

🛡 Риски и вызовы:

➖ Повышение уязвимости моделей: Масштабирование атак делает их более доступными для злоумышленников.
➖ Сложности защиты: Простое добавление новых ограничений не всегда помогает, так как метод BoN находит обходные пути.

🎯 Метод Best-of-N Jailbreaking открывает новые возможности для анализа слабых мест моделей, но требует срочного внимания со стороны разработчиков киберзащиты.

🔗 Подробнее читайте в тексте исследования.

Stay secure and read SecureTechTalks 📚

#кибербезопасность #LLM #PromptInjection #Anthropic #SecureTechTalks #AI #ИИ #моделибезопасности

🔒Passkeys от Microsoft: шаг в будущее без паролей

🔒 Рост угроз
Microsoft ежедневно блокирует около 7 тысяч атак с использованием паролей каждую секунду. Это почти вдвое больше, чем год назад, что подчёркивает необходимость отказа от уязвимых методов аутентификации.

🛡 Passkeys — это ключи доступа, основанные на биометрии или PIN-кодах, которые разблокируют приватный ключ на устройстве пользователя. В отличие от традиционных паролей, они:
- Практически неуязвимы для фишинга.
- Ускоряют авторизацию в три раза по сравнению с паролями и в восемь раз быстрее MFA.

📊 Внедрение и успех:
В мае 2024 года Microsoft запустила поддержку Passkeys для Xbox, Microsoft 365 и Copilot. Уже 98% пользователей успешно проходят авторизацию с их использованием, против 32% для обычных паролей. После редизайна системы входа рост использования Passkeys составил 987%.

🚀 Будущее безопасности:
Microsoft планирует полный переход на ключи доступа, избавляясь от паролей. Это важный шаг к защите пользователей от фишинга и новых угроз.

Stay secure and read SecureTechTalks 📚

#кибербезопасность #Passkeys #Microsoft #SecureTechTalks #фишинг #безопасность

💪Преодоление CTF: как LLM достигают новых высот в кибербезопасности

🔍 Контекст
Исследователи предложили новый подход к использованию больших языковых моделей (LLM) для решения задач по взлому систем на симуляции Capture The Flag (CTF). Система, названная ReAct&Plan, показала 95% успеха на бенчмарке InterCode-CTF, что значительно превосходит предыдущие результаты.

📌 Ключевые моменты:

1⃣ Базовый принцип:
- Использование итеративных стратегий и расширенного инструментария (Python, bash-команды).
- Увеличение числа попыток до 30 для поиска наиболее эффективного решения.

2⃣ Технологии:
- ReAct (Reasoning + Action): Генерация шагов с учётом наблюдений.
- Plan&Solve: Комбинация пошагового планирования с выполнением задач.

3⃣ Результаты:
- Общая успешность: 95% для задач из категорий General Skills, Reverse Engineering и Cryptography.
- Преодоление ограничений прошлых методов, таких как EnIGMA.

⚙️ Достижения в тестах CTF доказывают, что LLM способны эффективно справляться с реальными киберугрозами. Это открывает новые возможности для автоматизации анализа уязвимостей и повышения уровня кибербезопасности.

Подробнее: GitHub InterCode

Stay secure and read SecureTechTalks 📚

#кибербезопасность #LLM #CTF #SecureTechTalks #ReAct #AI #opensource #science #github

💡Telepathy: расскрывеи тайны каналов Telegram

🔍 Telepathy — open-source инструмент для автоматизации сбора данных из Telegram. Он разработан для глубокого анализа каналов, чатов и пользователей.

📌 Ключевые возможности Telepathy:

1⃣ Сбор данных:
- Извлечение сообщений, медиафайлов и участников из публичных Telegram-каналов и чатов.
- Сохранение данных в удобных для анализа форматах (JSON, CSV).

2⃣ Мониторинг активности:
- Автоматическое отслеживание новых сообщений в режиме реального времени.
- Визуализация временных паттернов, таких как пиковые часы активности.

3⃣ Анализ участников:
- Сбор информации о подписчиках и их взаимодействии.
- Определение ключевых участников групп.

4⃣ Гибкость:
- Настраиваемые фильтры для поиска по ключевым словам, дате или типу контента.
- Интеграция с другими инструментами OSINT для расширенного анализа.

📊 Примеры использования:

1⃣ Мониторинг групп:
Используйте Telepathy для анализа публичных чатов, чтобы понять, какие темы обсуждаются и как часто.
2⃣ Анализ подозрительных каналов:
Сканируйте каналы на наличие потенциально вредоносного контента.
3⃣ Сеть взаимодействий:
Составляйте карты активности пользователей для понимания их влияния в сообществах.

📂 Официальный репозиторий доступен на GitHub.

🎯 Telepathy — универсальный инструмент для анализа Telegram. Благодаря простоте использования и проработанным функциям, он становится отличным помощником в умелых руках специалистов по OSINT.

Stay secure and read SecureTechTalks 📚

#OSINT #кибербезопасность #Telegram #Telepathy #SecureTechTalks #анализданных #информационнаябезопасность #cybersecurity #разведка

🔡CyberRAG: обучение кибербезопасности с использованием ИИ

🛡 CyberRAG — это передовой инструмент, объединяющий искусственный интеллект (ИИ) и структурированный подход для повышения качества обучения кибербезопасности. Используя технологии Retrieval-Augmented Generation (RAG) и онтологии знаний, система обеспечивает точные и безопасные ответы на сложные вопросы.

🧠 CyberRAG был создан для решения двух ключевых проблем образовательного процесса:
1. Недостаточная точность: Стандартные языковые модели часто дают недостоверные ответы ("галлюцинации").
2. Ограниченность знаний: Классические системы не всегда охватывают специфические аспекты кибербезопасности.

🧩 CyberRAG объединяет подходы RAG и онтологию знаний:

- RAG: Извлекает данные из базы знаний и использует их для создания точных и обоснованных ответов.
- Онтология знаний: Проверяет ответы на соответствие правилам и концепциям безопасности.

🔍 Интеграция с базами данных: Использует такие источники, как CyberQ и AISecKG, которые содержат структурированную информацию об атаках и методах защиты.
Способен находить ответы даже на вопросы, которые не охватываются материалами.

📝 Генерация ответов:

- Комбинирует информацию из базы знаний с возможностями языковой модели для создания точных и понятных объяснений.
- Автоматически корректирует данные, проверяя их через онтологию.

🔒 Онтологическая валидация:

Проверяет ответы с использованием заранее заданных правил, устраняя недостоверную информацию.

🎓 Преимущества для студентов и преподавателей
✨ Надёжность: CyberRAG гарантирует высокую точность благодаря онтологической проверке данных.
✨ Поддержка самообучения: Студенты могут задавать сложные вопросы и получать детализированные ответы, основанные на актуальных данных.
✨ Гибкость: Инструмент адаптируется к различным уровням сложности, от базовых понятий до сложных сценариев атак и защиты.

⚡️ Применение CyberRAG на практике
🔗 Анализ уязвимостей: Помогает понять, как оценивать уязвимости и разрабатывать стратегии их устранения.
🔗 Обучение защите: Даёт возможность изучать атаки, их последствия и методы защиты.
🔗 Проверка гипотез: Позволяет проверять гипотезы на основе фактических данных, делая процесс обучения более практическим.

📈 В тестах CyberRAG показал высокую точность ответов, превосходя классические системы. Даже при отсутствии данных в базе знаний инструмент успешно создавал обоснованные ответы с использованием генеративной модели.

🚀 Подробнее с CyberRAG можно ознакомиться по ссылке.


Stay secure and read SecureTechTalks 📚

#CyberSecurity #Education #AI #CyberRAG #RAG #Кибербезопасность #SecureTechTalks #Обучение #Онтология #OSINT