GitHub
GitHub - usestrix/strix: Open-source AI hackers to find and fix your app’s vulnerabilities.
Open-source AI hackers to find and fix your app’s vulnerabilities. - usestrix/strix
Strix — это набор автономных ИИ-агентов. Действуют как исследователи - динамически запускают код, находят уязвимости и тестируют их эксплуатацию.
Созданы для разработчиков и специалистов по безопасности, которым требуется быстрое и точное тестирование безопасности.
https://github.com/usestrix/strix
#ai #redteaming #cybersecurity #strix #github
The Engine Room⬅
Созданы для разработчиков и специалистов по безопасности, которым требуется быстрое и точное тестирование безопасности.
https://github.com/usestrix/strix
#ai #redteaming #cybersecurity #strix #github
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
1
VK Видео
Дмитрий Сивков и Борис Захир. Вам тоже нужен red teaming AI-агентов — и вот почему
В мире искусственного интеллекта 2025 год прочно запомнился как год AI‑агентов — программ, использующих GenAI для взаимодействия с внешней средой автономно и умеющих запоминать информацию. Конечно же, этой технологии есть множество применений в бизнесе, а…
На offzone cпикеры рассказывают об опыте Сбера в деятельности red teaming, делятся своей методологией - от описания угроз до стратегий тестирования. В видео разбирается несколько кейсов.
https://vkvideo.ru/video-172362100_456239263
The Engine Room⬅
https://vkvideo.ru/video-172362100_456239263
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
1
Teletype
Битовая инверсия как атака на LLM
Статья описывает проблему малоизученных аппаратных атак на LLM - битовых инверсий (Bit-Flip Attacks, BFA)
Please open Telegram to view this post
VIEW IN TELEGRAM
1
Teletype
Shell or Nothing: как ИИ учат взламывать по-взрослому
Статья о фреймворке на базе LLM и его результатах получения доступа к shell
Please open Telegram to view this post
VIEW IN TELEGRAM
1
AI Secure Agentic Framework Essentials (AI-SAFE) v 1.0.pdf
12 MB
Яндекс опубликовал фреймворк для моделирования угроз и обеспечения безопасности ИИ-агентов. Задача документа - познакомить с основными рисками и угрозами при работе
с системами, связанными с подготовкой данных , а также с созданием ИИ-агентов и инфраструктуры для работы ИИ-систем. Документ содержит рекомендации по безопасности ИИ-технологий, собранные специалистами платформы Yandex Cloud. В подготовке документа мы учтены рекомендации и классификации угроз, которые уже разработали международные
ассоциации:
1) OWASP
2) NIST
3) MIRE ATT&CK
#cybersecurity #aisecurity #ai #aithreatmodel
The Engine Room⬅
с системами, связанными с подготовкой данных , а также с созданием ИИ-агентов и инфраструктуры для работы ИИ-систем. Документ содержит рекомендации по безопасности ИИ-технологий, собранные специалистами платформы Yandex Cloud. В подготовке документа мы учтены рекомендации и классификации угроз, которые уже разработали международные
ассоциации:
1) OWASP
2) NIST
3) MIRE ATT&CK
#cybersecurity #aisecurity #ai #aithreatmodel
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
1
Withgoogle
5-Day AI Agents Intensive Course with Google
Join our 5-day AI Agents Intensive Course with Google, November 10–14, to learn how to build, evaluate, and deploy agents.
Google + Kaggle = 5-Day AI Agents Intensive
Пяти дневные интенсивные курсы от Google и Kaggle на тему AI Агентов🤖
Предыдущий был на тему GenAI😵💫
Можно практиковаться самостоятельно на kaggle и почитать/послушать на google👾
#ai #genai #aiagent #kaggle #google
The Engine Room⬅
Пяти дневные интенсивные курсы от Google и Kaggle на тему AI Агентов
Предыдущий был на тему GenAI
Можно практиковаться самостоятельно на kaggle и почитать/послушать на google
#ai #genai #aiagent #kaggle #google
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
1
Forwarded from CyberSecurityTechnologies
Adversarial_AI_Attacks.pdf
9.6 MB
#MLSecOps
#Tech_book
"Adversarial AI Attacks, Mitigations, and Defense Strategies: A cybersecurity professional’s guide to AI attacks, threat modeling, and securing AI with MLSecOps', 2024.
// The book is for cybersecurity professionals, such as security architects, analysts, engineers, ethical hackers, pentesters, and incident responders, but also developers and engineers designing, building, and assuring AI systems
#Tech_book
"Adversarial AI Attacks, Mitigations, and Defense Strategies: A cybersecurity professional’s guide to AI attacks, threat modeling, and securing AI with MLSecOps', 2024.
// The book is for cybersecurity professionals, such as security architects, analysts, engineers, ethical hackers, pentesters, and incident responders, but also developers and engineers designing, building, and assuring AI systems
1
Teletype
NTLM
NTLM - протокол аутентификации Microsoft
Please open Telegram to view this post
VIEW IN TELEGRAM
1
Teletype
Kerberos
Протокол, который позволяет пользователям проходить аутентификацию в сети и получать доступ к службам после аутентификации
Please open Telegram to view this post
VIEW IN TELEGRAM
1
Teletype
FuzzingBrain
Всё что нужно - это фаззинг...
Please open Telegram to view this post
VIEW IN TELEGRAM
2
Teletype
Red Teaming LLM агентов с помощью MCP протокола
MCP - критическая и уязвимая точка в цепочке доверия LLM-агентов
Please open Telegram to view this post
VIEW IN TELEGRAM
2
Перевод на русский язык книги Agentic Design Patterns. Спасибо вот этому человеку!
https://github.com/pridees/agentic-design-patterns-book-rus
#agent #design #github #ai #aisecurity #cybersecurity
The Engine Room⬅
https://github.com/pridees/agentic-design-patterns-book-rus
#agent #design #github #ai #aisecurity #cybersecurity
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
2
Openai
Sora 2 is here
Our latest video generation model is more physically accurate, realistic, and more controllable than prior systems. It also features synchronized dialogue and sound effects. Create with it in the new Sora app.
Пока кто-то думает, про безопасность ИИ, OpenAI представляет новую Sora 2 - отдельное приложение/социальная сеть с лентой рекомендаций и возможностью «загрузить» свой образ для использования.
https://openai.com/index/sora-2/?video=1123289230
The Engine Room⬅
https://openai.com/index/sora-2/?video=1123289230
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
1
GitHub
GitHub - bgreenwell/doxx: Expose the contents of .docx files without leaving your terminal. Fast, safe, and smart — no Office required!
Expose the contents of .docx files without leaving your terminal. Fast, safe, and smart — no Office required! - bgreenwell/doxx
Можно читать .docx не отходя от окна терминала👠
https://github.com/bgreenwell/doxx
#github #cli #chat #docx
The Engine Room⬅
https://github.com/bgreenwell/doxx
#github #cli #chat #docx
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
1
GitHub
GitHub - TalEliyahu/Awesome-AI-Security: Curated resources, research, and tools for securing AI systems
Curated resources, research, and tools for securing AI systems - TalEliyahu/Awesome-AI-Security
Мощная подборка материалов по безопасности ИИ систем⚡
https://github.com/TalEliyahu/Awesome-AI-Security
#github #aisecurity #ai #cybersecurity
The Engine Room⬅
https://github.com/TalEliyahu/Awesome-AI-Security
#github #aisecurity #ai #cybersecurity
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
1
Не менее мощная подборка материалов по безопасности ИИ систем и не только⚡
Блог
YouTube
GitHub
#github
The Engine Room⬅
Блог
YouTube
GitHub
#github
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
1
Teletype
airgeddon loves WiFi
Никто не любит провода, все любят Wi-Fi
Please open Telegram to view this post
VIEW IN TELEGRAM
1
Teletype
ToolTweak
Атака на выбор инструментов в агентных системах
Please open Telegram to view this post
VIEW IN TELEGRAM
1