Forwarded from CyberSecurityTechnologies
FL_Sec.pdf
1.5 MB
#AIOps
#Analytics
#MLSecOps
"On the Security and Privacy of Federated Learning:
A Survey with Attacks, Defenses, Frameworks, Applications, and Future Directions", 2025.
// Federated Learning (FL) is an emerging distributed machine learning paradigm enabling multiple clients to train a global model collaboratively without sharing their raw data. While FL enhances data privacy by design, it remains vulnerable to various security and privacy threats..
#Analytics
#MLSecOps
"On the Security and Privacy of Federated Learning:
A Survey with Attacks, Defenses, Frameworks, Applications, and Future Directions", 2025.
// Federated Learning (FL) is an emerging distributed machine learning paradigm enabling multiple clients to train a global model collaboratively without sharing their raw data. While FL enhances data privacy by design, it remains vulnerable to various security and privacy threats..
👍3
Incident Analysis for AI Agents
https://arxiv.org/html/2508.14231v1
https://arxiv.org/html/2508.14231v1
Forwarded from GitHub Community
Minima — это локальные контейнеры RAG с открытым исходным кодом, которые можно интегрировать с ChatGPT и MCP. Minima также можно использовать как полностью локальный RAG.
В настоящее время Minima поддерживает три режима:
1. Изолированная установка. Полностью локальная работа с контейнерами без внешних зависимостей, таких как ChatGPT или Claude. Все нейронные сети (LLM, reranker, embedding) работают в вашем облаке или на ПК, обеспечивая безопасность ваших данных.
2. Пользовательский GPT. Выполняйте запросы к локальным документам с помощью приложения или веб-версии ChatGPT с использованием пользовательских GPT. Индексатор работает в облаке или на локальном ПК, а основной языковой моделью остается ChatGPT.
3. Anthropic Claude — используйте приложение Anthropic Claude для поиска в локальных документах. Индексатор работает на вашем локальном компьютере, а Anthropic Claude выступает в качестве основной языковой модели.
🐱 GitHub
В настоящее время Minima поддерживает три режима:
1. Изолированная установка. Полностью локальная работа с контейнерами без внешних зависимостей, таких как ChatGPT или Claude. Все нейронные сети (LLM, reranker, embedding) работают в вашем облаке или на ПК, обеспечивая безопасность ваших данных.
2. Пользовательский GPT. Выполняйте запросы к локальным документам с помощью приложения или веб-версии ChatGPT с использованием пользовательских GPT. Индексатор работает в облаке или на локальном ПК, а основной языковой моделью остается ChatGPT.
3. Anthropic Claude — используйте приложение Anthropic Claude для поиска в локальных документах. Индексатор работает на вашем локальном компьютере, а Anthropic Claude выступает в качестве основной языковой модели.
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1
Forwarded from GolDBUG
AI Red Teaming CTF: [ai_gon3_rogu3]
В сентябре пройдет тематическая стф от hackerone, приглашаю желающих поучаствовать.
Регистрируйтесь и проверяйте свои навыки, всем удачи 🔥
Ссылка на саму ctf 🪲
Статья на hackerone 👾
🔥1
Forwarded from CodeCamp
Нарыл имбовый курс для тех, кто хочет разобраться в нейронках с нуля от Андрея Карпати (OpenAI/Tesla).
Это бесплатная серия лекций на YouTube (и репа на GitHub), где ты с нуля учишься собирать нейронки. Всё максимально hands-on: Автор не просто рассказывает теорию, а пишет код вместе с тобой — от самых азов до тренировки сетей.
Естественно бесплатно
Это бесплатная серия лекций на YouTube (и репа на GitHub), где ты с нуля учишься собирать нейронки. Всё максимально hands-on: Автор не просто рассказывает теорию, а пишет код вместе с тобой — от самых азов до тренировки сетей.
Естественно бесплатно
Forwarded from GitHub Community
Swe-agent — многоагентная система разработки программного обеспечения на базе искусственного интеллекта с агентами-исследователями и разработчиками, автоматизирующая реализацию кода посредством интеллектуального планирования и выполнения.
Создана с использованием многоагентных рабочих процессов LangGraph.
🐱 GitHub
Создана с использованием многоагентных рабочих процессов LangGraph.
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from GitHub Community
RAG_bot — Telegram-бот на базе искусственного интеллекта для интерактивного анализа статей.
Особенности:
▫️Умная индексация — обрабатывает статьи с любого URL
▫️Многоязычный — поддерживает вопросы и ответы на английском и русском языках
▫️Пользовательские подсказки — управление стилем и форматом ответа
▫️Поддержка прокси — работает с API OpenAI в регионах с ограничениями
▫️Ссылка на источник — всегда подкрепляет ответы доказательствами
▫️Постоянное хранилище — сохраняет проиндексированные статьи между сеансами
🐱 GitHub
Индексирует веб-контент и предоставляет точные ответы с указанием источников.
Особенности:
▫️Умная индексация — обрабатывает статьи с любого URL
▫️Многоязычный — поддерживает вопросы и ответы на английском и русском языках
▫️Пользовательские подсказки — управление стилем и форматом ответа
▫️Поддержка прокси — работает с API OpenAI в регионах с ограничениями
▫️Ссылка на источник — всегда подкрепляет ответы доказательствами
▫️Постоянное хранилище — сохраняет проиндексированные статьи между сеансами
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from CyberSecurityTechnologies (-CST-)
RAD.pdf
878.4 KB
#MLSecOps
"Retrieval-Augmented Defense: Adaptive and Controllable Jailbreak Prevention for Large Language Models", 2025.
]-> Repo
// RAD - novel framework for jailbreak detection that incorporates a database of known attack examples into Retrieval-Augmented Generation, which is used to infer the underlying, malicious user query and jailbreak strategy used to attack the system
"Retrieval-Augmented Defense: Adaptive and Controllable Jailbreak Prevention for Large Language Models", 2025.
]-> Repo
// RAD - novel framework for jailbreak detection that incorporates a database of known attack examples into Retrieval-Augmented Generation, which is used to infer the underlying, malicious user query and jailbreak strategy used to attack the system
Forwarded from CyberSecurityTechnologies
SAPA_Bench.pdf
1008.7 KB
#AIOps
#Research
"Mind the Third Eye! Benchmarking Privacy Awareness in MLLM-powered Smartphone Agents", 2025.
]-> https://github.com/Zhixin-L/SAPA-Bench
// with the rise of MLLM-powered smartphone agents, automation performance has improved significantly-yet at the cost of extensive access to sensitive user data
#Research
"Mind the Third Eye! Benchmarking Privacy Awareness in MLLM-powered Smartphone Agents", 2025.
]-> https://github.com/Zhixin-L/SAPA-Bench
// with the rise of MLLM-powered smartphone agents, automation performance has improved significantly-yet at the cost of extensive access to sensitive user data
Forwarded from CyberSecurityTechnologies
LCCT_Attacks.pdf
901.3 KB
#AIOps
#MLSecOps
"Security Attacks on LLM-based Code Completion Tools", v.4, AAAI 2025.
]-> example code and attack samples
// LLM-based Code Completion Tools (LCCTs) often rely on proprietary code datasets for training, raising concerns about the potential exposure of sensitive data. We exploit these distinct characteristics of LCCTs to develop targeted attack methodologies on two critical security risks: jailbreaking and training data extraction attacks
#MLSecOps
"Security Attacks on LLM-based Code Completion Tools", v.4, AAAI 2025.
]-> example code and attack samples
// LLM-based Code Completion Tools (LCCTs) often rely on proprietary code datasets for training, raising concerns about the potential exposure of sensitive data. We exploit these distinct characteristics of LCCTs to develop targeted attack methodologies on two critical security risks: jailbreaking and training data extraction attacks
🔥1
Forwarded from Андрей
Банк России разработал Кодекс этики в сфере разработки и применения искусственного интеллекта на финансовом рынке \ КонсультантПлюс
https://www.consultant.ru/law/hotdocs/89962.html
https://www.consultant.ru/law/hotdocs/89962.html
www.consultant.ru
Банк России разработал Кодекс этики в сфере разработки и применения искусственного интеллекта на финансовом рынке \ КонсультантПлюс
Информационное письмо Банка России от 09.07.2025 N ИН-016-13/91 "О Кодексе этики в сфере разработки и применения искусственного интеллекта на финансовом рынке"
LLMs in the SOC: An Empirical Study of Human-AI Collaboration in Security Operations Centres
https://arxiv.org/html/2508.18947v1
Исследование представляет собой первый всесторонний эмпирический анализ того, как аналитики SOC взаимодействуют с LLM в своих повседневных рабочих процессах. Изучив 3090 реальных запросов аналитиков, отправленных GPT-4 в течение 10 месяцев в eSentire Inc., исследователи из CSIRO's Data61 и eSentire предоставили беспрецедентные данные о моделях сотрудничества человека и ИИ в операциях кибербезопасности. Результаты показывают, что LLM в основном функционируют как когнитивные помощники для осмысления и построения контекста, а не как инструменты принятия решений, при этом аналитики сохраняют четкий авторитет в отношении критически важных определений безопасности.
https://arxiv.org/html/2508.18947v1
Исследование представляет собой первый всесторонний эмпирический анализ того, как аналитики SOC взаимодействуют с LLM в своих повседневных рабочих процессах. Изучив 3090 реальных запросов аналитиков, отправленных GPT-4 в течение 10 месяцев в eSentire Inc., исследователи из CSIRO's Data61 и eSentire предоставили беспрецедентные данные о моделях сотрудничества человека и ИИ в операциях кибербезопасности. Результаты показывают, что LLM в основном функционируют как когнитивные помощники для осмысления и построения контекста, а не как инструменты принятия решений, при этом аналитики сохраняют четкий авторитет в отношении критически важных определений безопасности.
Forwarded from Пост Лукацкого
И еще один постер от SANS – про то, как стать лучшим пентестером 🤕
#sans #пентест #оценказащищенности
#sans #пентест #оценказащищенности
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥1
Forwarded from Пост Лукацкого
SANS-OO-Pen-Testing-0725.pdf
2.3 MB
Forwarded from AISecHub
xiangxin-guardrails - https://github.com/xiangxinai/xiangxin-guardrails/blob/main/README_EN.md An open-source and free enterprise-level AI security protection platform that supports both API and security gateway modes. It provides dual protection via prompt word attack detection and content compliance detection. Based on advanced large language models, it has context-aware capabilities and supports fully private deployment.
https://github.com/xiangxinai/xiangxin-guardrails - www.xiangxinai.cn
https://github.com/xiangxinai/xiangxin-guardrails - www.xiangxinai.cn
Forwarded from AISecHub
HackGpt - HackGPT Enterprise is a production-ready, cloud-native AI-powered penetration testing platform designed for enterprise security teams. It combines advanced AI, machine learning, microservices architecture, and comprehensive security frameworks to deliver professional-grade cybersecurity assessments.
https://github.com/yashab-cyber/HackGpt
https://github.com/yashab-cyber/HackGpt
GitHub
GitHub - yashab-cyber/HackGpt: HackGPT Enterprise is a production-ready, cloud-native AI-powered penetration testing platform designed…
HackGPT Enterprise is a production-ready, cloud-native AI-powered penetration testing platform designed for enterprise security teams. It combines advanced AI, machine learning, microservices archi...
👏1