https://teletype.in/@aisecurilka/jnulppAAKgs

#ai #cybersecurity #aisecurity #finesec #llm #article

Ссылка на оригинал статьи

The Engine Room⬅

https://owasp.org/www-project-ai-testing-guide

Руководство по тестированию систем ИИ от OWASP. Включает раздел моделирования угроз и методику тестирования.

#ai #aisecurity #cybersecurity

The Engine Room⬅

Репозиторий представляет собой несколько направлений:
1) AI/LLM Red Team Field Manual - включает в себя инструкции, примеры атак и ссылки на инструменты
2) AI/LLM Red Team Hand book - содержит методологию, шаблоны и рабочие процессы для проведения аудитов безопасности
3) Дополнительные материалы - шаблоны отчетов, руководство по созданию Red Team команды

#github #ai #cybersecurity #aisecurity

https://github.com/Shiva108/ai-llm-red-team-handbook

The Engine Room⬅

OWASP выпустил руководство по безопасности автономных AI-агентов - OWASP Top 10 for Agentic Applications 2026.
В документе рассматриваются 10 ключевых категорий угроз связанных с агентными системами, а также описываются примеры атак и практические рекомендации по защите.
Основные пункты документа:
1) ASI01 — Agent Goal Hijack
2) ASI02 — Tool Misuse & Exploitation
3) ASI03 — Identity & Privilege Abuse
4) ASI04 — Agentic Supply Chain Vulnerabilities
5) ASI05 — Unexpected Code Execution (RCE)
6) ASI06 — Memory & Context Poisoning
7) ASI07 — Insecure Inter-Agent Communication
8) ASI08 — Cascading Failures
9) ASI09 — Human-Agent Trust Exploitation
10) ASI10 — Rogue Agents

#owasp #ai #cybersecurity #aisecurity

https://genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026/

The Engine Room⬅

https://teletype.in/@aisecurilka/Z6y5SPWH0tb

#ai #cybersecurity #aisecurity #doublespeak #llm #article

Ссылка на оригинал статьи

The Engine Room⬅

Репозиторий является программным сопровождением одноименной книги «Building Agentic AI Systems», которая посвящена проектированию и разработке автономных ИИ-агентов, способных планировать, рассуждать и действовать с минимальным вмешательством человека.
Основные разделы:
1) Главы 1–3 — теоретический фундамент
2) Главы 4–7 — проектирование и реализация
3) Главы 8–11 — безопасность и этика

#github #ai #cybersecurity #aisecurity #ai #agents #agenticai

https://github.com/PacktPublishing/Building-Agentic-AI-Systems

The Engine Room⬅

Интересный документ от Rakesh Gohe.
Представляет собой небольшой справочник по малым языковым моделям (SLM) для ИИ-агентов.

#ai #cybersecurity #aisecurity #ai #agents #agenticai

The Engine Room⬅

https://teletype.in/@aisecurilka/DP8MwH6fltD

#ai #cybersecurity #aisecurity #ai #agents #agenticai #незаметки

The Engine Room⬅

Отчет Google "AI Agent Trends 2026"
Описывает переход от ИИ как дополнения к процессам, в которых ИИ занимает центральное место.
Ключевые тренды, которые выделяются:
1) Агенты для каждого сотрудника - сотрудники переходят от выполнения рутинных задач к роли руководителей и оркестраторов систем ИИ.
2) Агенты для каждого рабочего процесса - ИИ-агенты объединяются в многошаговые автоматизированные цепочки для управления целыми бизнес-процессами.
3) Агенты для клиентов - переход от ограниченных чат-ботов к персонализированным помощникам, которые помнят предпочтения и историю взаимодействий.
4) Агенты для безопасности - ИИ-агенты берут на себя рутинный мониторинг и первичный анализ угроз, позволяя аналитикам сосредоточиться на стратегии защиты, а также использование ИИ для автоматического поиска уязвимостей и проведения тестов на проникновение.
5) Агенты для масштабирования - главным драйвером ценности становится развитие талантов. В 2026 году выигрывает не тот, у кого «умные» программы, а тот, чьи сотрудники умеют этими программами дирижировать и постоянно переучиваются.

https://cloud.google.com/resources/content/ai-agent-trends-2026

#google #ai #cybersecurity #aisecurity #agents #agenticai

The Engine Room⬅

Серия статей о Copilot
1) Метод обхода защищенной Python-песочницы в Copilot
2) Метод обхода ограничений на типы загружаемых файлов в Copilot
3) Метод извлечения системных инструкций Copilot с помощью непрямой инъекции промпта
4) Метод прямой инъекции промпта раскрывающий скрытые системные инструкции и правила безопасности

#ai #cybersecurity #aisecurity #copilot

The Engine Room⬅

https://teletype.in/@aisecurilka/q8Yzymcdryk

#ai #cybersecurity #aisecurity #openrt #llm #article

Ссылка на оригинал статьи

The Engine Room⬅

https://teletype.in/@aisecurilka/6JIeKcSG0Iv

#ai #cybersecurity #aisecurity #article #ieee

The Engine Room⬅