Teletype
Shell or Nothing: как ИИ учат взламывать по-взрослому
Статья о фреймворке на базе LLM и его результатах получения доступа к shell
Please open Telegram to view this post
VIEW IN TELEGRAM
1 4 4 4
AI Secure Agentic Framework Essentials (AI-SAFE) v 1.0.pdf
12 MB
Яндекс опубликовал фреймворк для моделирования угроз и обеспечения безопасности ИИ-агентов. Задача документа - познакомить с основными рисками и угрозами при работе
с системами, связанными с подготовкой данных , а также с созданием ИИ-агентов и инфраструктуры для работы ИИ-систем. Документ содержит рекомендации по безопасности ИИ-технологий, собранные специалистами платформы Yandex Cloud. В подготовке документа мы учтены рекомендации и классификации угроз, которые уже разработали международные
ассоциации:
1) OWASP
2) NIST
3) MIRE ATT&CK
#cybersecurity #aisecurity #ai #aithreatmodel
The Engine Room⬅
с системами, связанными с подготовкой данных , а также с созданием ИИ-агентов и инфраструктуры для работы ИИ-систем. Документ содержит рекомендации по безопасности ИИ-технологий, собранные специалистами платформы Yandex Cloud. В подготовке документа мы учтены рекомендации и классификации угроз, которые уже разработали международные
ассоциации:
1) OWASP
2) NIST
3) MIRE ATT&CK
#cybersecurity #aisecurity #ai #aithreatmodel
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
1 4 3 3 1 1 1
Withgoogle
5-Day AI Agents Intensive Course with Google
Join our 5-day AI Agents Intensive Course with Google, November 10–14, to learn how to build, evaluate, and deploy agents.
Google + Kaggle = 5-Day AI Agents Intensive
Пяти дневные интенсивные курсы от Google и Kaggle на тему AI Агентов🤖
Предыдущий был на тему GenAI😵💫
Можно практиковаться самостоятельно на kaggle и почитать/послушать на google👾
#ai #genai #aiagent #kaggle #google
The Engine Room⬅
Пяти дневные интенсивные курсы от Google и Kaggle на тему AI Агентов
Предыдущий был на тему GenAI
Можно практиковаться самостоятельно на kaggle и почитать/послушать на google
#ai #genai #aiagent #kaggle #google
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
1 4 4 4 1
Forwarded from CyberSecurityTechnologies
Adversarial_AI_Attacks.pdf
9.6 MB
#MLSecOps
#Tech_book
"Adversarial AI Attacks, Mitigations, and Defense Strategies: A cybersecurity professional’s guide to AI attacks, threat modeling, and securing AI with MLSecOps', 2024.
// The book is for cybersecurity professionals, such as security architects, analysts, engineers, ethical hackers, pentesters, and incident responders, but also developers and engineers designing, building, and assuring AI systems
#Tech_book
"Adversarial AI Attacks, Mitigations, and Defense Strategies: A cybersecurity professional’s guide to AI attacks, threat modeling, and securing AI with MLSecOps', 2024.
// The book is for cybersecurity professionals, such as security architects, analysts, engineers, ethical hackers, pentesters, and incident responders, but also developers and engineers designing, building, and assuring AI systems
1 3 3 3 2 1 1
Teletype
NTLM
NTLM - протокол аутентификации Microsoft
Please open Telegram to view this post
VIEW IN TELEGRAM
1 4 4 2 1 1
Teletype
Kerberos
Протокол, который позволяет пользователям проходить аутентификацию в сети и получать доступ к службам после аутентификации
Please open Telegram to view this post
VIEW IN TELEGRAM
1 4 3 3 2
Teletype
FuzzingBrain
Всё что нужно - это фаззинг...
Please open Telegram to view this post
VIEW IN TELEGRAM
2 3 3 3 1 1 1
Teletype
Red Teaming LLM агентов с помощью MCP протокола
MCP - критическая и уязвимая точка в цепочке доверия LLM-агентов
Please open Telegram to view this post
VIEW IN TELEGRAM
2 4 3 3 1 1
Перевод на русский язык книги Agentic Design Patterns. Спасибо вот этому человеку!
https://github.com/pridees/agentic-design-patterns-book-rus
#agent #design #github #ai #aisecurity #cybersecurity
The Engine Room⬅
https://github.com/pridees/agentic-design-patterns-book-rus
#agent #design #github #ai #aisecurity #cybersecurity
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
2 3 2 2 2 1 1 1
Openai
Sora 2 is here
Our latest video generation model is more physically accurate, realistic, and more controllable than prior systems. It also features synchronized dialogue and sound effects. Create with it in the new Sora app.
Пока кто-то думает, про безопасность ИИ, OpenAI представляет новую Sora 2 - отдельное приложение/социальная сеть с лентой рекомендаций и возможностью «загрузить» свой образ для использования.
https://openai.com/index/sora-2/?video=1123289230
The Engine Room⬅
https://openai.com/index/sora-2/?video=1123289230
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
1 4 2 2 2 1 1
GitHub
GitHub - bgreenwell/doxx: Expose the contents of .docx files without leaving your terminal. Fast, safe, and smart — no Office required!
Expose the contents of .docx files without leaving your terminal. Fast, safe, and smart — no Office required! - bgreenwell/doxx
Можно читать .docx не отходя от окна терминала👠
https://github.com/bgreenwell/doxx
#github #cli #chat #docx
The Engine Room⬅
https://github.com/bgreenwell/doxx
#github #cli #chat #docx
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
1 3 3 2 2 2 1
GitHub
GitHub - TalEliyahu/Awesome-AI-Security: Curated resources, research, and tools for securing AI systems
Curated resources, research, and tools for securing AI systems - TalEliyahu/Awesome-AI-Security
Мощная подборка материалов по безопасности ИИ систем⚡
https://github.com/TalEliyahu/Awesome-AI-Security
#github #aisecurity #ai #cybersecurity
The Engine Room⬅
https://github.com/TalEliyahu/Awesome-AI-Security
#github #aisecurity #ai #cybersecurity
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
1 4 4 3 2
Не менее мощная подборка материалов по безопасности ИИ систем и не только⚡
Блог
YouTube
GitHub
#github
The Engine Room⬅
Блог
YouTube
GitHub
#github
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
1 3 2 2 1 1
Teletype
airgeddon loves WiFi
Никто не любит провода, все любят Wi-Fi
Please open Telegram to view this post
VIEW IN TELEGRAM
1 3 3 2 1
Teletype
ToolTweak
Атака на выбор инструментов в агентных системах
Please open Telegram to view this post
VIEW IN TELEGRAM
1 3 3 1 1 1
Forwarded from SecureTechTalks
🔐 SecureBERT 2.0: ИИ который учится говорить на языке кибербезопасности
🌍 Мир не останавливается ни на секунду. Сегодня аналитики разбирают фишинговую кампанию, завтра ищут уязвимость в ядре Linux, а послезавтра анализируют подозрительные логи из облака. Данных становится всё больше и они всё сложнее.
💡 Так появился SecureBERT. Это не универсальная модель, а ИИ натренированный именно на языке киберугроз.
👉 GitHub проекта
🤖 Ученик цифровых угроз
SecureBERT 2.0 «рос» на реальных материалах:
📑 отчёты об APT группах
🛡️ описания CVE и багов
📰 технические блоги исследователей
💻 миллионы строк кода включая эксплойты
📊 Объем тренировочных данных:
🔹 более 13 миллиардов текстовых токенов
🔹 более 53 миллиона токенов кода
Это в 13 раз больше чем у первой версии модели.
🧠 Архитектура
Модель основана на ModernBERT и умеет:
📏 работать с длинными документами
🗂️ понимать структуру текста и кода
🔀 совмещать язык и программный код
⚡ обрабатывать данные быстрее и эффективнее
🔎 Что умеет модель?
1️⃣ Поиск информации
🔍 Находит документы с точностью до 88.8%
⏱️ Аналитики SOC экономят часы на поиске нужных данных
2️⃣ Извлечение сущностей (NER)
📌 Определяет уязвимости, индикаторы компрометации, малварь
📈 F1 score: 0.945 — почти идеальная точность
3️⃣ Поиск уязвимостей в коде
🛠️ Видит SQLi XSS переполнения буфера
⚖️ Балансирует точность и минимум ложных срабатываний
🔮 Планы на будущее
Авторы планируют:
📈 увеличить размер модели
🔗 встроить её в SIEM и SOAR
🛰️ расширить использование: от анализа логов до поиска эксплойтов
Stay secure and read SecureTechTalks 📚
#ИИ #кибербезопасность #SecureBERT #AI #SOC #DevSecOps #Cisco #угрозы #BigData #LLM
🌍 Мир не останавливается ни на секунду. Сегодня аналитики разбирают фишинговую кампанию, завтра ищут уязвимость в ядре Linux, а послезавтра анализируют подозрительные логи из облака. Данных становится всё больше и они всё сложнее.
💡 Так появился SecureBERT. Это не универсальная модель, а ИИ натренированный именно на языке киберугроз.
👉 GitHub проекта
🤖 Ученик цифровых угроз
SecureBERT 2.0 «рос» на реальных материалах:
📑 отчёты об APT группах
🛡️ описания CVE и багов
📰 технические блоги исследователей
💻 миллионы строк кода включая эксплойты
📊 Объем тренировочных данных:
🔹 более 13 миллиардов текстовых токенов
🔹 более 53 миллиона токенов кода
Это в 13 раз больше чем у первой версии модели.
🧠 Архитектура
Модель основана на ModernBERT и умеет:
📏 работать с длинными документами
🗂️ понимать структуру текста и кода
🔀 совмещать язык и программный код
⚡ обрабатывать данные быстрее и эффективнее
🔎 Что умеет модель?
1️⃣ Поиск информации
🔍 Находит документы с точностью до 88.8%
⏱️ Аналитики SOC экономят часы на поиске нужных данных
2️⃣ Извлечение сущностей (NER)
📌 Определяет уязвимости, индикаторы компрометации, малварь
📈 F1 score: 0.945 — почти идеальная точность
3️⃣ Поиск уязвимостей в коде
🛠️ Видит SQLi XSS переполнения буфера
⚖️ Балансирует точность и минимум ложных срабатываний
🔮 Планы на будущее
Авторы планируют:
📈 увеличить размер модели
🔗 встроить её в SIEM и SOAR
🛰️ расширить использование: от анализа логов до поиска эксплойтов
Stay secure and read SecureTechTalks 📚
#ИИ #кибербезопасность #SecureBERT #AI #SOC #DevSecOps #Cisco #угрозы #BigData #LLM
1 5 3 2 1 1 1
Forwarded from AISecHub
Official release of code for the paper RL is a hammer and LLMs are nails A simple RL approach to stronger prompt injection attacks
https://github.com/facebookresearch/rl-injector
https://github.com/facebookresearch/rl-injector
GitHub
GitHub - facebookresearch/rl-injector: Official release of code for the paper RL is a hammer and LLMs are nails A simple RL approach…
Official release of code for the paper RL is a hammer and LLMs are nails A simple RL approach to stronger prompt injection attacks - facebookresearch/rl-injector
1 4 4 4
Teletype
Fine-Tuning Jailbreaks
Статья рассказывает об уязвимости систем тонкой настройки больших языковых моделей в условиях, максимально приближённых к реальной эксплуатации
Please open Telegram to view this post
VIEW IN TELEGRAM
1 4 4 2 2 2 1
Teletype
External Data Extraction Attacks against RAG
В работе исследован новый класс атак на системы типа RAG
Please open Telegram to view this post
VIEW IN TELEGRAM
1 5 5 4 1