https://teletype.in/@aisecurilka/ibm_anthropic

#ai #aisecurity #cybersecurity #ibm #anthropic

Ссылка на оригинал документа

The Engine Room⬅

Попал в поле зрения Артёма и был добавлен в некую папку...
Страшно, но очень интересно!
Спасибо!👠

Ну а в нашей папке каналов появились новые авторы. Если вы не подписались - то стоит это сделать сейчас. 😌😌😌. Авторы стараются для вас над контентом.

https://teletype.in/@aisecurilka/aRc7i9M6l8z

#ai #aisecurity #cybersecurity #llm #lotl #lollm #article

Ссылка на оригинал статьи

The Engine Room⬅

Go-реализация MCP протокола (Model Context Protocol). Поддерживает разный транспорт - STDIO, SSE, HTTP. Умеет управлять сессиями и контекстами. Есть встрленные промты и возможность добавлять middleware, хуки, телеметрию.

#github #mcp #go

https://github.com/mark3labs/mcp-go

The Engine Room⬅

Совместный курс от Hack The Box Academy и Google для специалистов в области кибербезопасности ИИ. Охватывает различные типы атак, оценку рисков, разработку стратегий тестирования и защиту ИИ-систем. Сочетает теорию и практические упражнения. Соответствует Google Secure AI Framework (SAIF).

#ai #aisecurity #cybersecurity #aisecurity #google #saif #htb

https://academy.hackthebox.com/path/preview/ai-red-teamer

The Engine Room⬅

Teletype
Breaking Agent Backbones
Как выбор LLM влияет на безопасность агента

https://teletype.in/@aisecurilka/FsTOSekJuIe

#ai #aisecurity #cybersecurity #llm #b3 #threatsnapshot #article

Ссылка на оригинал статьи

The Engine Room⬅

Инструмент для безопасной передачи файлов с полным сквозным шифрованием. Позволяет обмениваться файлами через веб-интерфейс или командную строку.

#github #cli #e2ecp

https://github.com/schollz/e2ecp

The Engine Room⬅

Огромное учебное пособие о проектировании, разработке и эксплуатации систем машинного обучения от Гарвардского профессора Виджея Ганапа Ведди.
Охватывает полный жизненный цикл ИИ-систем - от инженерных основ и архитектур нейросетей до вопросов производительности, оптимизации, MLOps и аспектов безопасности.
Книга объединяет теорию и инженерные практики, объясняя, как строить надёжные, масштабируемые и эффективные системы искусственного интеллекта.
Учебное пособие включает в себя лабораторные работы где рассматривается и hardware часть.

#ai #aisecurity #cybersecurity #aisecurity #ml #book

Website
GitHub
Book .pdf
Book .epub

The Engine Room⬅

Библиотека на Go для локального запуска и интеграции моделей (LLM, SLM, TLM, VLM). Использует llama.cpp и реализована без CGo.

#github #llama #go

https://github.com/hybridgroup/yzma

The Engine Room⬅

https://teletype.in/@aisecurilka/OrBZWmAtGD3

#ai #aisecurity #cybersecurity #llm #tls #sidechannel #article

Ссылка на оригинал статьи

The Engine Room⬅

Google ожидаемо выкатили ADK-Go - открытый фреймворк для создания и развёртывания AI-агентов на Go. Ещё один типобезопасный, производительный и расширяемый способ строить LLM-агентов с инструментами, памятью и мультиагентными сценариями.
Проект пока в альфа-версии, но пользоваться уже можно.

#github #google #go #adkgo

https://github.com/google/adk-go

The Engine Room⬅

Довольно интересная статья. Автор пишет почему тестирование систем ИИ отличается от стандартного тестирования на проникновение, разбирает внутреннюю архитектуру, а также затрагивает уже существующие методологии и даже приводит список вопросов, что бы написать свой документ по политики безопасности.

#ai #aisecurity #cybersecurity

https://devansh.bearblog.dev/ai-pentest-scoping/

The Engine Room⬅

https://teletype.in/@aisecurilka/jnulppAAKgs

#ai #cybersecurity #aisecurity #finesec #llm #article

Ссылка на оригинал статьи

The Engine Room⬅

https://owasp.org/www-project-ai-testing-guide

Руководство по тестированию систем ИИ от OWASP. Включает раздел моделирования угроз и методику тестирования.

#ai #aisecurity #cybersecurity

The Engine Room⬅

Репозиторий представляет собой несколько направлений:
1) AI/LLM Red Team Field Manual - включает в себя инструкции, примеры атак и ссылки на инструменты
2) AI/LLM Red Team Hand book - содержит методологию, шаблоны и рабочие процессы для проведения аудитов безопасности
3) Дополнительные материалы - шаблоны отчетов, руководство по созданию Red Team команды

#github #ai #cybersecurity #aisecurity

https://github.com/Shiva108/ai-llm-red-team-handbook

The Engine Room⬅

OWASP выпустил руководство по безопасности автономных AI-агентов - OWASP Top 10 for Agentic Applications 2026.
В документе рассматриваются 10 ключевых категорий угроз связанных с агентными системами, а также описываются примеры атак и практические рекомендации по защите.
Основные пункты документа:
1) ASI01 — Agent Goal Hijack
2) ASI02 — Tool Misuse & Exploitation
3) ASI03 — Identity & Privilege Abuse
4) ASI04 — Agentic Supply Chain Vulnerabilities
5) ASI05 — Unexpected Code Execution (RCE)
6) ASI06 — Memory & Context Poisoning
7) ASI07 — Insecure Inter-Agent Communication
8) ASI08 — Cascading Failures
9) ASI09 — Human-Agent Trust Exploitation
10) ASI10 — Rogue Agents

#owasp #ai #cybersecurity #aisecurity

https://genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026/

The Engine Room⬅

https://teletype.in/@aisecurilka/Z6y5SPWH0tb

#ai #cybersecurity #aisecurity #doublespeak #llm #article

Ссылка на оригинал статьи

The Engine Room⬅

Репозиторий является программным сопровождением одноименной книги «Building Agentic AI Systems», которая посвящена проектированию и разработке автономных ИИ-агентов, способных планировать, рассуждать и действовать с минимальным вмешательством человека.
Основные разделы:
1) Главы 1–3 — теоретический фундамент
2) Главы 4–7 — проектирование и реализация
3) Главы 8–11 — безопасность и этика

#github #ai #cybersecurity #aisecurity #ai #agents #agenticai

https://github.com/PacktPublishing/Building-Agentic-AI-Systems

The Engine Room⬅

Интересный документ от Rakesh Gohe.
Представляет собой небольшой справочник по малым языковым моделям (SLM) для ИИ-агентов.

#ai #cybersecurity #aisecurity #ai #agents #agenticai

The Engine Room⬅