GitHub
GitHub - microsoft/AI-Red-Teaming-Playground-Labs: AI Red Teaming playground labs to run AI Red Teaming trainings including infrastructure.
AI Red Teaming playground labs to run AI Red Teaming trainings including infrastructure. - microsoft/AI-Red-Teaming-Playground-Labs
Репозиторий с заданиями для лабораторных работ, используемых в курсе «AI Red Teaming на практике».
https://github.com/microsoft/AI-Red-Teaming-Playground-Labs
#ai #redteaming #aisecurity #cybersecurity #github
The Engine Room⬅
https://github.com/microsoft/AI-Red-Teaming-Playground-Labs
#ai #redteaming #aisecurity #cybersecurity #github
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
1
GitHub
GitHub - Trusted-AI/adversarial-robustness-toolbox: Adversarial Robustness Toolbox (ART) - Python Library for Machine Learning…
Adversarial Robustness Toolbox (ART) - Python Library for Machine Learning Security - Evasion, Poisoning, Extraction, Inference - Red and Blue Teams - Trusted-AI/adversarial-robustness-toolbox
Adversarial Robustness Toolbox (ART) — библиотека Python для обеспечения безопасности машинного обучения. ART предоставляет инструменты, позволяющие разработчикам и исследователям защищать и оценивать модели и приложения машинного обучения от угроз.
https://github.com/Trusted-AI/adversarial-robustness-toolbox
#ai #aisecurity #cybersecurity #adversarialrobustnesstoolbox #ART #github
The Engine Room⬅
https://github.com/Trusted-AI/adversarial-robustness-toolbox
#ai #aisecurity #cybersecurity #adversarialrobustnesstoolbox #ART #github
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
1
Модель_угроз_для_кибербезопасности_AI.pdf
5.5 MB
Модель угроз кибербезопасности для искусственного интеллекта, охватывает полный жизненный цикл Al-решений - от подготовки данных и разработки модели до интеграции её в приложения.
Документ систематизирует 70 угроз, классифицированных по трем этапам:
✅ Сбор и подготовка данных
✅ Разработка модели и обучение
✅ Эксплуатация модели и интеграция с приложениями
#aithreatmodel #ai #cybersecurity #aisecurity
The Engine Room⬅
Документ систематизирует 70 угроз, классифицированных по трем этапам:
#aithreatmodel #ai #cybersecurity #aisecurity
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
1
GitHub
GitHub - LLAMATOR-Core/llamator: Framework for testing vulnerabilities of large language models (LLM).
Framework for testing vulnerabilities of large language models (LLM). - LLAMATOR-Core/llamator
Фреймворк для тестирования уязвимостей LLM от ребят из ИТМО. Телеграм чат команды.
https://github.com/LLAMATOR-Core/llamator
#ai #redteaming #aisecurity #cybersecurity #llamator #github
The Engine Room⬅
https://github.com/LLAMATOR-Core/llamator
#ai #redteaming #aisecurity #cybersecurity #llamator #github
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
1
Teletype
Cuckoo Attack
Статья посвящена новой атаке на интегрированные среды разработки с LLM-агентами (IDE)
Please open Telegram to view this post
VIEW IN TELEGRAM
1
GitHub
GitHub - usestrix/strix: Open-source AI hackers to find and fix your app’s vulnerabilities.
Open-source AI hackers to find and fix your app’s vulnerabilities. - usestrix/strix
Strix — это набор автономных ИИ-агентов. Действуют как исследователи - динамически запускают код, находят уязвимости и тестируют их эксплуатацию.
Созданы для разработчиков и специалистов по безопасности, которым требуется быстрое и точное тестирование безопасности.
https://github.com/usestrix/strix
#ai #redteaming #cybersecurity #strix #github
The Engine Room⬅
Созданы для разработчиков и специалистов по безопасности, которым требуется быстрое и точное тестирование безопасности.
https://github.com/usestrix/strix
#ai #redteaming #cybersecurity #strix #github
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
1
VK Видео
Дмитрий Сивков и Борис Захир. Вам тоже нужен red teaming AI-агентов — и вот почему
В мире искусственного интеллекта 2025 год прочно запомнился как год AI‑агентов — программ, использующих GenAI для взаимодействия с внешней средой автономно и умеющих запоминать информацию. Конечно же, этой технологии есть множество применений в бизнесе, а…
На offzone cпикеры рассказывают об опыте Сбера в деятельности red teaming, делятся своей методологией - от описания угроз до стратегий тестирования. В видео разбирается несколько кейсов.
https://vkvideo.ru/video-172362100_456239263
The Engine Room⬅
https://vkvideo.ru/video-172362100_456239263
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
1
Teletype
Битовая инверсия как атака на LLM
Статья описывает проблему малоизученных аппаратных атак на LLM - битовых инверсий (Bit-Flip Attacks, BFA)
Please open Telegram to view this post
VIEW IN TELEGRAM
1
Teletype
Shell or Nothing: как ИИ учат взламывать по-взрослому
Статья о фреймворке на базе LLM и его результатах получения доступа к shell
Please open Telegram to view this post
VIEW IN TELEGRAM
1
AI Secure Agentic Framework Essentials (AI-SAFE) v 1.0.pdf
12 MB
Яндекс опубликовал фреймворк для моделирования угроз и обеспечения безопасности ИИ-агентов. Задача документа - познакомить с основными рисками и угрозами при работе
с системами, связанными с подготовкой данных , а также с созданием ИИ-агентов и инфраструктуры для работы ИИ-систем. Документ содержит рекомендации по безопасности ИИ-технологий, собранные специалистами платформы Yandex Cloud. В подготовке документа мы учтены рекомендации и классификации угроз, которые уже разработали международные
ассоциации:
1) OWASP
2) NIST
3) MIRE ATT&CK
#cybersecurity #aisecurity #ai #aithreatmodel
The Engine Room⬅
с системами, связанными с подготовкой данных , а также с созданием ИИ-агентов и инфраструктуры для работы ИИ-систем. Документ содержит рекомендации по безопасности ИИ-технологий, собранные специалистами платформы Yandex Cloud. В подготовке документа мы учтены рекомендации и классификации угроз, которые уже разработали международные
ассоциации:
1) OWASP
2) NIST
3) MIRE ATT&CK
#cybersecurity #aisecurity #ai #aithreatmodel
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
1
Withgoogle
5-Day AI Agents Intensive Course with Google
Join our 5-day AI Agents Intensive Course with Google, November 10–14, to learn how to build, evaluate, and deploy agents.
Google + Kaggle = 5-Day AI Agents Intensive
Пяти дневные интенсивные курсы от Google и Kaggle на тему AI Агентов🤖
Предыдущий был на тему GenAI😵💫
Можно практиковаться самостоятельно на kaggle и почитать/послушать на google👾
#ai #genai #aiagent #kaggle #google
The Engine Room⬅
Пяти дневные интенсивные курсы от Google и Kaggle на тему AI Агентов
Предыдущий был на тему GenAI
Можно практиковаться самостоятельно на kaggle и почитать/послушать на google
#ai #genai #aiagent #kaggle #google
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
1
Forwarded from CyberSecurityTechnologies
Adversarial_AI_Attacks.pdf
9.6 MB
#MLSecOps
#Tech_book
"Adversarial AI Attacks, Mitigations, and Defense Strategies: A cybersecurity professional’s guide to AI attacks, threat modeling, and securing AI with MLSecOps', 2024.
// The book is for cybersecurity professionals, such as security architects, analysts, engineers, ethical hackers, pentesters, and incident responders, but also developers and engineers designing, building, and assuring AI systems
#Tech_book
"Adversarial AI Attacks, Mitigations, and Defense Strategies: A cybersecurity professional’s guide to AI attacks, threat modeling, and securing AI with MLSecOps', 2024.
// The book is for cybersecurity professionals, such as security architects, analysts, engineers, ethical hackers, pentesters, and incident responders, but also developers and engineers designing, building, and assuring AI systems
1
Teletype
NTLM
NTLM - протокол аутентификации Microsoft
Please open Telegram to view this post
VIEW IN TELEGRAM
1
Teletype
Kerberos
Протокол, который позволяет пользователям проходить аутентификацию в сети и получать доступ к службам после аутентификации
Please open Telegram to view this post
VIEW IN TELEGRAM
1
Teletype
FuzzingBrain
Всё что нужно - это фаззинг...
Please open Telegram to view this post
VIEW IN TELEGRAM
2
Teletype
Red Teaming LLM агентов с помощью MCP протокола
MCP - критическая и уязвимая точка в цепочке доверия LLM-агентов
Please open Telegram to view this post
VIEW IN TELEGRAM
2
Перевод на русский язык книги Agentic Design Patterns. Спасибо вот этому человеку!
https://github.com/pridees/agentic-design-patterns-book-rus
#agent #design #github #ai #aisecurity #cybersecurity
The Engine Room⬅
https://github.com/pridees/agentic-design-patterns-book-rus
#agent #design #github #ai #aisecurity #cybersecurity
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
2
Openai
Sora 2 is here
Our latest video generation model is more physically accurate, realistic, and more controllable than prior systems. It also features synchronized dialogue and sound effects. Create with it in the new Sora app.
Пока кто-то думает, про безопасность ИИ, OpenAI представляет новую Sora 2 - отдельное приложение/социальная сеть с лентой рекомендаций и возможностью «загрузить» свой образ для использования.
https://openai.com/index/sora-2/?video=1123289230
The Engine Room⬅
https://openai.com/index/sora-2/?video=1123289230
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
1
GitHub
GitHub - bgreenwell/doxx: Expose the contents of .docx files without leaving your terminal. Fast, safe, and smart — no Office required!
Expose the contents of .docx files without leaving your terminal. Fast, safe, and smart — no Office required! - bgreenwell/doxx
Можно читать .docx не отходя от окна терминала👠
https://github.com/bgreenwell/doxx
#github #cli #chat #docx
The Engine Room⬅
https://github.com/bgreenwell/doxx
#github #cli #chat #docx
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
1