🕵️ «Мессенджер без маски»: что скрывает APK «Макса» 

Появление нового мессенджера «Макс» сопровождалось волной обсуждений: удобный интерфейс, обещания безопасности и амбициозные планы. Но вскоре в IT-сообществе зазвучал главный вопрос: что происходит под капотом? 

Исследователи не ограничились словами и вскрыли APK-файл приложения. Результаты оказались неоднозначными. 

🔍 Первые странности

Сразу после установки «Макс» ведёт себя вполне предсказуемо: запрос номера, подтверждение кода, вход. Но буквально через секунды он начинает активно стучаться за правами доступа: 

- 📇 контакты — и не один раз, а несколько подряд; 
🎤 запись аудио во время звонков; 
📷 камера, экран и… запись экрана, даже если пользователь нигде не видел функции «Screen Recording». 

Для мессенджера часть этих запросов объяснима. Но избыточность и скрытые возможности — тревожный сигнал. 

🛠 Глубже в AndroidManifest

В AndroidManifest.xml, сердце любого Android-приложения, проявились детали, которые обычному пользователю не видны. 

➖Чтение контактов и доступ к камере можно объединить, чтобы связать людей и их изображения. 
➖Микрофон и запись экрана дают теоретическую возможность фиксировать всё, что происходит перед глазами и ушами пользователя. 
➖В манифесте нет ограничений на запуск некоторых функций: они пока «спят», но могут быть активированы будущими обновлениями. 

Это не прямое доказательство злого умысла, но расширяет поверхность атаки и вызывает вопросы о прозрачности разработки. 

⚖️ Между «так делают все» и «так делать нельзя» 

Запрос широких разрешений обычная практика для многих приложений. Но в случае с мессенджером, который претендует на статус «защищённого», ожидания выше. 

Повторные запросы контактов выглядят как баг. Запись экрана - как минимум избыточная мера. А вместе они создают картину, в которой пользователю остаётся только догадываться зачем всё это действительно нужно?

🎯 Вывод для пользователей

Пока что «Макс» балансирует на грани доверия. Он работает как мессенджер, но внутри несёт набор прав, которые при неблагоприятных условиях могут обернуться проблемами. 

Совет очевиден: 
- ограничивайте разрешения вручную; 
- следите за обновлениями и их описанием; 
- используйте альтернативы для общения, где важна приватность. 

Stay secure and read SecureTechTalks 📚 

#Макс #AndroidSecurity #Privacy #CyberSecurity #Мессенджеры #SecureTechTalks

🕵️‍♂️ Фантазии ИИ становятся оружием

Сначала это выглядело как забавная ошибка искусственного интеллекта: вы просите подсказку, а модель уверенно придумывает несуществующую библиотеку. «Просто галлюцинация», думает разработчик. Но именно эти «фантазии» стали топливом для новой схемы атак, которая стремительно превращается в угрозу для всей экосистемы оpen source.

Современные модели кода иногда галлюцинируют — придумывают несуществующие пакеты. Злоумышленники ловят эти «идеи», регистрируют пакеты с такими именами и получают прибыль: слопскваттинг - новый класс атак.

🔬 Немного статистики

Исследования и обзоры кода сгенерированных подсказок дают тревожные цифры:
➖в среднем ≈20% сгенерированных кодовых сниппетов содержали ссылки на пакеты, которых не существует; коммерческие модели галлюцинируют реже, открытые — значительно чаще.
➖при повторных запросах одна и та же «вымышленная» зависимость повторяется - 43% галлюцинаций стабильно появлялись при 10 повторах, а 58% более чем в одном прогоне; это значит, у атакующих есть «набор имен», который можно автоматизированно захватить.
➖около 38% таких вымышленных названий имеют умеренное сходство со знакомыми пакетами (по структуре названия) и выглядят правдоподобно для человеческого глаза.

Эти числа не просто статистика. Это план для автоматизированной кампании по захвату имён в PyPI / npm: генерация → регистрация → ожидание загрузок.

🧩 Механика атаки

1⃣ LLM генерирует код и «советует» установить пакет cool-utils-helpers (вымышленное имя).
2⃣ Атакующий заранее мониторит такие подсказки или генерирует варианты с помощью бота.
3⃣ Злоумышленник быстро публикует в реестр пакет с тем же именем — но со скриптом post-install, скрытым эксплойтом или кодом для кражи секретов.
4⃣ CI/Dev упрощают жизнь и пакет попадает в сборку, разворачивается в окружении с доступом к токенам, ключам, облаку.

Supply chain-атаки на npm и PyPI уже показывали способы проникновения через доверие к зависимостям (пример с event-stream/flatmap-stream в npm), когда популярный пакет получил вредоносную зависимость и оказались затронуты миллионы загрузок.

Кампании с сотнями/тысячами фейковых или компрометированных пакетов демонстрировали, насколько легко засорить экосистемы и сколько автоматизации требуется злоумышленнику.

🎯 Человеческий фактор + автоматизация

➖Разработчики доверяют инструментам: подсказка от LLM воспринимается как «быстрый путь» — и проверка пакета отходит на второй план.

➖CI/CD часто автоматически устанавливает зависимости для сборки, то есть один npm install в pipeline может превратить репозиторий в вектор атаки.

➖Регистры пакетов допускают массовые публикации; автоматизация атаки при грамотной оркестровке может сгенерировать сотни «ловушечных» пакетов за считанные минуты.

Stay secure and read SecureTechTalks 📚

#Slopsquatting #LLM #SupplyChainSecurity #DevSecOps #OpenSource #npm #PyPI #AIrisks #SecureTechTalks

🚨 Как взломать ИИ через конкретизацию контента? 🚨

Исследователи из KTH (Швеция) представили свежую работу о том, как обходить защиту больших языковых моделей (LLM). На конференции GameSec 2025 они рассказали о новой технике под названием Content Concretization (CC), «конкретизация контента».

В чём суть: вместо хитрых промптов или обфускации злоумышленники берут абстрактную задачу («сделай DDoS-атаку») и шаг за шагом превращают её в рабочий код с помощью цепочки LLM.

🛠️ Как работает Content Concretization

➖Черновик - низкоуровневая модель (например, GPT-4o-mini) с более слабыми фильтрами генерирует базовый план или псевдокод.
➖Уточнение - несколько итераций доработки черновика (1–3 шага), чтобы убрать абстракции.
➖Финал - более «умная» модель (например, Claude 3.7 Sonnet) получает и исходный запрос, и черновик, и превращает это в полноценный эксплойт или готовый код.

Таким образом, система по сути «обманывает сама себя»: слабая модель генерирует набросок, сильная доводит до продакшн-уровня.

📊 Результаты исследования

Учёные прогнали 350 промптов из CySecBench (специализированного датасета для кибератак) и получили такие цифры:
🔒 Без уточнений (N=0): успех всего 7.1%.
⚡ С 1 итерацией: рост до 57.1%.
📈 Оптимум на 3 итерациях: 62% успешных джейлбрейков.
🔻 4 итерации дают падение (46.6%) — слабая модель начинает «отказываться» на поздних шагах.
💰 Цена атаки — всего 7.5 цента за один промпт, что делает метод экономически доступным.

🧪 Что реально сгенерировала система

Исследователи тестировали 3 классические сценария:
1⃣ SYN-flood: многопоточный DoS-скрипт с подменой IP. Работает в тестовой сети, но против современных защит нужен апгрейд.
2⃣ Spear-phishing: модульный фреймворк с веб-скрейпером, генерацией писем через GPT и SMTP-рассылкой. Умеет писать убедительные письма под жертву.
3⃣ SQLi-сканер: находил до 35 уязвимостей и извлекал реальные данные (имена БД, юзеры, версии MySQL) на тестовых сайтах.

Результат: код работает почти сразу, иногда нужны лишь минимальные правки.

🔍 В чем подвох?

➖Системы фильтров плохо справляются с пошаговым уточнением, они блокируют финальный промпт, но не понимают, что по цепочке строится эксплойт.
➖Техника не требует сложных «ролевых игр» или обфускации, всё делается простыми прямыми инструкциями.
➖Экономичность метода позволяет атакующим автоматизировать генерацию вредоносного кода в промышленных масштабах.

🛡️ Возможные меры защиты

Исследователи предлагают:
- Внедрять промежуточные фильтры, которые отслеживают разницу между шагами (например, от абстракции к конкретному коду).
- Ограничивать расширение «черновиков» подозрительного характера.
- Усиливать кросс-модельную проверку и независимый аудит цепочек вывода.

⚠️ Вывод: Content Concretization - это новый класс джейлбрейков, который показывает, что обходы фильтров LLM становятся всё более системными и технически продуманными. Впереди нас ждёт эра, где атаки будут строиться цепочками из нескольких ИИ, и именно там кибербезопасность получит новые вызовы.

Полный текст исследования: arXiv:2509.12937v1

Stay secure and read SecureTechTalks 📚

#AI #Jailbreak #LLM #CyberSecurity #Malware #Phishing #SQLi #SupplyChain #ChatGPT #Security #AI #SecureTechTalks

🔥 DDoS больше не внезапный шторм: исследователи научились предсказывать атаки с помощью нейросетей ⚡

Distributed Denial-of-Service (DDoS) - одна из самых разрушительных киберугроз. 🌐 Когда ботнет из сотен тысяч устройств обрушивает лавину трафика на ваш сервер, у вас остаются секунды для реакции. Но что если атаки можно не только фиксировать, когда всё уже горит, а предсказывать заранее?

📑 Исследователи из Universiti Malaya и Universiti Teknikal Malaysia Melaka опубликовали работу, где применили методы глубокого обучения для прогнозирования DDoS. Суть: анализ исторических данных + модель LSTM (Long Short-Term Memory) = система, которая умеет заранее улавливать признаки готовящейся атаки.

📊 Что сделали учёные?

1⃣ Проанализировали 192 525 DDoS-атак за 2019-2021 годы.

2⃣ Отдельно рассмотрели период COVID-19, когда переход бизнеса в онлайн вызвал взрыв атак:
- количество нападений >1 Тбит/с выросло на 94% всего за год.
- В выборке - данные более чем от 330 интернет-провайдеров, Digital Attack Map и публичных отчётов ISP.

3⃣ Обучили LSTM-модель, способную ловить паттерны во временных рядах, чтобы предугадывать моменты, когда вероятность DDoS особенно высока.

🚨 Результаты

✔️ Модель научилась предсказывать временные пики атак - пусть и не всегда точно указывая объём и длительность.
✔️ Даёт защитникам фору по времени: можно заранее поднять ресурсы, включить фильтрацию или распределить нагрузку.
✔️ Подтвердила, что чем больше данных в истории, тем выше точность прогнозов.

❌ Но есть и слабые места:

➖Ошибки в оценке масштаба атаки.
➖Ложные тревоги: иногда система "перебдит".
➖Новые мультивекторные атаки всё ещё сложно предсказать.

🌍 Кому это нужно?

➖CDN и облачные провайдеры смогут заранее готовить мощности и маршруты.
➖Хостинги - переключать трафик на фильтрующие узлы до пика атаки.
➖SOC-команды - заранее активировать агрессивные правила, а не включать их в панике.

💡 Если классическая защита DDoS похожа на пожарную команду, то этот подход ближе к метеослужбе: прогноз погоды не всегда точен, но он позволяет подготовиться.

🔧 Куда двигаться дальше?

➖Добавлять новые типы данных: IoT-ботнеты, арендуемые DDoS-for-hire сервисы.
➖Использовать ансамбли моделей: LSTM + трансформеры для точности.
➖Работать над снижением ложных тревог, чтобы SOC-аналитики не игнорировали предупреждения.

📌 Немного фактов

Чтобы понять масштаб угрозы, вспомним последние громкие атаки:
🌐 Google (2023): крупнейшая DDoS-атака зафиксирована на уровне 398 млн запросов в секунду (RPS).
☁️ Cloudflare (2023): волна атак достигала 71 млн RPS.

🛡️ AWS (2020): DDoS на 2,3 Тбит/с стал одной из крупнейших атак того времени.

➡️ DDoS всегда был атакой-внезапностью. Но исследование показывает: будущее киберзащиты - в прогнозах и проактивных мерах. Даже неполное предсказание способно спасти миллионы долларов и сохранить uptime критических сервисов.

🔗 Полный текст исследования: arXiv:2509.02076

Stay secure and read SecureTechTalks 📚

#DDoS #DeepLearning #CyberSecurity #LSTM #ThreatIntelligence #SecureTechTalks #ML #DataScience #ThreatIntelligence