GitHub
GitHub - IntelLabs/LLMart: LLM Adversarial Robustness Toolkit, a toolkit for evaluating LLM robustness through adversarial testing.
LLM Adversarial Robustness Toolkit, a toolkit for evaluating LLM robustness through adversarial testing. - IntelLabs/LLMart
Инструмент для оценки устойчивости больших языковых моделей (LLM) к атакам- adversarial testing🔋
#github #aisecurity #ai #cybersecurity
https://github.com/IntelLabs/LLMart
The Engine Room⬅
#github #aisecurity #ai #cybersecurity
https://github.com/IntelLabs/LLMart
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
1
GitHub
GitHub - Cod-e-Codes/marchat: Lightweight terminal chat with server/client binaries, real-time WebSocket messaging, optional end…
Lightweight terminal chat with server/client binaries, real-time WebSocket messaging, optional end-to-end encryption, plugins, file sharing, admin panel, and code snippets. Built in Go with Bubble ...
Консольный групповой чат с серверной и клиентской частью написанный на Go📞
#github #cli #chat
https://github.com/Cod-e-Codes/marchat
The Engine Room⬅
#github #cli #chat
https://github.com/Cod-e-Codes/marchat
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
1
Teletype
Pruning-Activated Attack
Pruning модели может быть использован злоумышленником
Please open Telegram to view this post
VIEW IN TELEGRAM
1
Просто на секундочку для информации - по состоянию на июль 2025 года стоимость компании оценивается в 18 миллиардов $😁
Forwarded from Machine head - Александр О.
А это очень интересно 🧐
Попросил Perplexity проанализировать логи и собственное окружение.
Что примечательно:
Perplexity может сгенерировать python код, выполнить его и отрефлексировать свое окружение 😁
Похоже что каждый запрос выполняется в собственном Sandbox контейнере, там особо не набедокуришь, но исследовательский интерес зашкаливает.
В потрохах: FastAPI, Jupyter, рассыпуха python и npm пакетов, буду исследовать дальше, Perplexity весьма откровенен )
Посмотреть и вдохновиться можно здесь
Update: Sandbox это не просто docker контейнер-песочница, а E2BSandbox - инструменты для запуска ресерч агентов. О дивный новый мир, я каждый день узнаю о новой ИИ тулзе. 🤪
Попросил Perplexity проанализировать логи и собственное окружение.
Что примечательно:
Perplexity может сгенерировать python код, выполнить его и отрефлексировать свое окружение 😁
Похоже что каждый запрос выполняется в собственном Sandbox контейнере, там особо не набедокуришь, но исследовательский интерес зашкаливает.
В потрохах: FastAPI, Jupyter, рассыпуха python и npm пакетов, буду исследовать дальше, Perplexity весьма откровенен )
Посмотреть и вдохновиться можно здесь
Update: Sandbox это не просто docker контейнер-песочница, а E2BSandbox - инструменты для запуска ресерч агентов. О дивный новый мир, я каждый день узнаю о новой ИИ тулзе. 🤪
Perplexity AI
Проанализируй логи и собственное окружение, опиши стек технологий в которых...
На основе анализа доступного окружения выполнения и публичной информации о платформе, система Perplexity AI работает на многоуровневой технологической...
2
Teletype
Защита MLLM от неявных jailbreak атак
Новый класс атак, когда отдельно текст и изображение выглядят безопасно, но их совместное сочетание несёт злонамеренный смысл
Please open Telegram to view this post
VIEW IN TELEGRAM
1
GitHub
GitHub - anthropics/claude-cookbooks: A collection of notebooks/recipes showcasing some fun and effective ways of using Claude.
A collection of notebooks/recipes showcasing some fun and effective ways of using Claude. - anthropics/claude-cookbooks
Anthropic выложил сборник рецептов по применению - Claude Cookbooks. Репозиторий служит как образовательный и практический ресурс, где показывается, как использовать Claude API в реальных сценариях.
#github #claude #аnthropic
https://github.com/anthropics/claude-cookbooks
The Engine Room⬅
#github #claude #аnthropic
https://github.com/anthropics/claude-cookbooks
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
1
Попал в поле зрения Артёма и был добавлен в некую папку...
Страшно, но очень интересно!
Спасибо!👠
Страшно, но очень интересно!
Спасибо!
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from PWN AI (Artyom Semenov)
Ну а в нашей папке каналов появились новые авторы. Если вы не подписались - то стоит это сделать сейчас. 😌 😌 😌 . Авторы стараются для вас над контентом.
Please open Telegram to view this post
VIEW IN TELEGRAM
GitHub
GitHub - mark3labs/mcp-go: A Go implementation of the Model Context Protocol (MCP), enabling seamless integration between LLM applications…
A Go implementation of the Model Context Protocol (MCP), enabling seamless integration between LLM applications and external data sources and tools. - mark3labs/mcp-go
Go-реализация MCP протокола (Model Context Protocol). Поддерживает разный транспорт - STDIO, SSE, HTTP. Умеет управлять сессиями и контекстами. Есть встрленные промты и возможность добавлять middleware, хуки, телеметрию.
#github #mcp #go
https://github.com/mark3labs/mcp-go
The Engine Room⬅
#github #mcp #go
https://github.com/mark3labs/mcp-go
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
3
Hackthebox
AI Red Teamer Job Role Path | HTB Academy
The AI Red Teamer Job Role Path, in collaboration with Google, trains cybersecurity professionals to assess, exploit, and secure AI systems. Covering prompt...
Совместный курс от Hack The Box Academy и Google для специалистов в области кибербезопасности ИИ. Охватывает различные типы атак, оценку рисков, разработку стратегий тестирования и защиту ИИ-систем. Сочетает теорию и практические упражнения. Соответствует Google Secure AI Framework (SAIF).
#ai #aisecurity #cybersecurity #aisecurity #google #saif #htb
https://academy.hackthebox.com/path/preview/ai-red-teamer
The Engine Room⬅
#ai #aisecurity #cybersecurity #aisecurity #google #saif #htb
https://academy.hackthebox.com/path/preview/ai-red-teamer
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
2
Teletype
Breaking Agent Backbones
Как выбор LLM влияет на безопасность агента
Teletype
Breaking Agent Backbones
Как выбор LLM влияет на безопасность агента
https://teletype.in/@aisecurilka/FsTOSekJuIe
#ai #aisecurity #cybersecurity #llm #b3 #threatsnapshot #article
Ссылка на оригинал статьи
The Engine Room⬅
Breaking Agent Backbones
Как выбор LLM влияет на безопасность агента
https://teletype.in/@aisecurilka/FsTOSekJuIe
#ai #aisecurity #cybersecurity #llm #b3 #threatsnapshot #article
Ссылка на оригинал статьи
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
3
GitHub
GitHub - schollz/e2ecp: End-to-end encrypted copy file tool
End-to-end encrypted copy file tool. Contribute to schollz/e2ecp development by creating an account on GitHub.
Инструмент для безопасной передачи файлов с полным сквозным шифрованием. Позволяет обмениваться файлами через веб-интерфейс или командную строку.
#github #cli #e2ecp
https://github.com/schollz/e2ecp
The Engine Room⬅
#github #cli #e2ecp
https://github.com/schollz/e2ecp
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
2
Огромное учебное пособие о проектировании, разработке и эксплуатации систем машинного обучения от Гарвардского профессора Виджея Ганапа Ведди.
Охватывает полный жизненный цикл ИИ-систем - от инженерных основ и архитектур нейросетей до вопросов производительности, оптимизации, MLOps и аспектов безопасности.
Книга объединяет теорию и инженерные практики, объясняя, как строить надёжные, масштабируемые и эффективные системы искусственного интеллекта.
Учебное пособие включает в себя лабораторные работы где рассматривается и hardware часть.
#ai #aisecurity #cybersecurity #aisecurity #ml #book
Website
GitHub
Book .pdf
Book .epub
The Engine Room⬅
Охватывает полный жизненный цикл ИИ-систем - от инженерных основ и архитектур нейросетей до вопросов производительности, оптимизации, MLOps и аспектов безопасности.
Книга объединяет теорию и инженерные практики, объясняя, как строить надёжные, масштабируемые и эффективные системы искусственного интеллекта.
Учебное пособие включает в себя лабораторные работы где рассматривается и hardware часть.
#ai #aisecurity #cybersecurity #aisecurity #ml #book
Website
GitHub
Book .pdf
Book .epub
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
2
ЭйАй Секур’илка
Огромное учебное пособие о проектировании, разработке и эксплуатации систем машинного обучения от Гарвардского профессора Виджея Ганапа Ведди. Охватывает полный жизненный цикл ИИ-систем - от инженерных основ и архитектур нейросетей до вопросов производительности…
Please open Telegram to view this post
VIEW IN TELEGRAM
GitHub
GitHub - hybridgroup/yzma: Write Go applications that directly integrate llama.cpp for local inference using hardware acceleration.
Write Go applications that directly integrate llama.cpp for local inference using hardware acceleration. - hybridgroup/yzma
Библиотека на Go для локального запуска и интеграции моделей (LLM, SLM, TLM, VLM). Использует llama.cpp и реализована без CGo.
#github #llama #go
https://github.com/hybridgroup/yzma
The Engine Room⬅
#github #llama #go
https://github.com/hybridgroup/yzma
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
2
Teletype
Whisper Leak
Новая атака, которая позволяет определить тему запроса к LLM, по зашифрованному трафику
Please open Telegram to view this post
VIEW IN TELEGRAM
2