Teletype
Pruning-Activated Attack
Pruning модели может быть использован злоумышленником
Please open Telegram to view this post
VIEW IN TELEGRAM
1
Просто на секундочку для информации - по состоянию на июль 2025 года стоимость компании оценивается в 18 миллиардов $😁
Forwarded from Machine head - Александр О.
А это очень интересно 🧐
Попросил Perplexity проанализировать логи и собственное окружение.
Что примечательно:
Perplexity может сгенерировать python код, выполнить его и отрефлексировать свое окружение 😁
Похоже что каждый запрос выполняется в собственном Sandbox контейнере, там особо не набедокуришь, но исследовательский интерес зашкаливает.
В потрохах: FastAPI, Jupyter, рассыпуха python и npm пакетов, буду исследовать дальше, Perplexity весьма откровенен )
Посмотреть и вдохновиться можно здесь
Update: Sandbox это не просто docker контейнер-песочница, а E2BSandbox - инструменты для запуска ресерч агентов. О дивный новый мир, я каждый день узнаю о новой ИИ тулзе. 🤪
Попросил Perplexity проанализировать логи и собственное окружение.
Что примечательно:
Perplexity может сгенерировать python код, выполнить его и отрефлексировать свое окружение 😁
Похоже что каждый запрос выполняется в собственном Sandbox контейнере, там особо не набедокуришь, но исследовательский интерес зашкаливает.
В потрохах: FastAPI, Jupyter, рассыпуха python и npm пакетов, буду исследовать дальше, Perplexity весьма откровенен )
Посмотреть и вдохновиться можно здесь
Update: Sandbox это не просто docker контейнер-песочница, а E2BSandbox - инструменты для запуска ресерч агентов. О дивный новый мир, я каждый день узнаю о новой ИИ тулзе. 🤪
Perplexity AI
Проанализируй логи и собственное окружение, опиши стек технологий в которых...
На основе анализа доступного окружения выполнения и публичной информации о платформе, система Perplexity AI работает на многоуровневой технологической...
2
Teletype
Защита MLLM от неявных jailbreak атак
Новый класс атак, когда отдельно текст и изображение выглядят безопасно, но их совместное сочетание несёт злонамеренный смысл
Please open Telegram to view this post
VIEW IN TELEGRAM
1
GitHub
GitHub - anthropics/claude-cookbooks: A collection of notebooks/recipes showcasing some fun and effective ways of using Claude.
A collection of notebooks/recipes showcasing some fun and effective ways of using Claude. - anthropics/claude-cookbooks
Anthropic выложил сборник рецептов по применению - Claude Cookbooks. Репозиторий служит как образовательный и практический ресурс, где показывается, как использовать Claude API в реальных сценариях.
#github #claude #аnthropic
https://github.com/anthropics/claude-cookbooks
The Engine Room⬅
#github #claude #аnthropic
https://github.com/anthropics/claude-cookbooks
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
1
Попал в поле зрения Артёма и был добавлен в некую папку...
Страшно, но очень интересно!
Спасибо!👠
Страшно, но очень интересно!
Спасибо!
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from PWN AI (Artyom Semenov)
Ну а в нашей папке каналов появились новые авторы. Если вы не подписались - то стоит это сделать сейчас. 😌 😌 😌 . Авторы стараются для вас над контентом.
Please open Telegram to view this post
VIEW IN TELEGRAM
GitHub
GitHub - mark3labs/mcp-go: A Go implementation of the Model Context Protocol (MCP), enabling seamless integration between LLM applications…
A Go implementation of the Model Context Protocol (MCP), enabling seamless integration between LLM applications and external data sources and tools. - mark3labs/mcp-go
Go-реализация MCP протокола (Model Context Protocol). Поддерживает разный транспорт - STDIO, SSE, HTTP. Умеет управлять сессиями и контекстами. Есть встрленные промты и возможность добавлять middleware, хуки, телеметрию.
#github #mcp #go
https://github.com/mark3labs/mcp-go
The Engine Room⬅
#github #mcp #go
https://github.com/mark3labs/mcp-go
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
3
Hackthebox
AI Red Teamer Job Role Path | HTB Academy
The AI Red Teamer Job Role Path, in collaboration with Google, trains cybersecurity professionals to assess, exploit, and secure AI systems. Covering prompt...
Совместный курс от Hack The Box Academy и Google для специалистов в области кибербезопасности ИИ. Охватывает различные типы атак, оценку рисков, разработку стратегий тестирования и защиту ИИ-систем. Сочетает теорию и практические упражнения. Соответствует Google Secure AI Framework (SAIF).
#ai #aisecurity #cybersecurity #aisecurity #google #saif #htb
https://academy.hackthebox.com/path/preview/ai-red-teamer
The Engine Room⬅
#ai #aisecurity #cybersecurity #aisecurity #google #saif #htb
https://academy.hackthebox.com/path/preview/ai-red-teamer
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
2
Teletype
Breaking Agent Backbones
Как выбор LLM влияет на безопасность агента
Teletype
Breaking Agent Backbones
Как выбор LLM влияет на безопасность агента
https://teletype.in/@aisecurilka/FsTOSekJuIe
#ai #aisecurity #cybersecurity #llm #b3 #threatsnapshot #article
Ссылка на оригинал статьи
The Engine Room⬅
Breaking Agent Backbones
Как выбор LLM влияет на безопасность агента
https://teletype.in/@aisecurilka/FsTOSekJuIe
#ai #aisecurity #cybersecurity #llm #b3 #threatsnapshot #article
Ссылка на оригинал статьи
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
3
GitHub
GitHub - schollz/e2ecp: End-to-end encrypted copy file tool
End-to-end encrypted copy file tool. Contribute to schollz/e2ecp development by creating an account on GitHub.
Инструмент для безопасной передачи файлов с полным сквозным шифрованием. Позволяет обмениваться файлами через веб-интерфейс или командную строку.
#github #cli #e2ecp
https://github.com/schollz/e2ecp
The Engine Room⬅
#github #cli #e2ecp
https://github.com/schollz/e2ecp
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
2
Огромное учебное пособие о проектировании, разработке и эксплуатации систем машинного обучения от Гарвардского профессора Виджея Ганапа Ведди.
Охватывает полный жизненный цикл ИИ-систем - от инженерных основ и архитектур нейросетей до вопросов производительности, оптимизации, MLOps и аспектов безопасности.
Книга объединяет теорию и инженерные практики, объясняя, как строить надёжные, масштабируемые и эффективные системы искусственного интеллекта.
Учебное пособие включает в себя лабораторные работы где рассматривается и hardware часть.
#ai #aisecurity #cybersecurity #aisecurity #ml #book
Website
GitHub
Book .pdf
Book .epub
The Engine Room⬅
Охватывает полный жизненный цикл ИИ-систем - от инженерных основ и архитектур нейросетей до вопросов производительности, оптимизации, MLOps и аспектов безопасности.
Книга объединяет теорию и инженерные практики, объясняя, как строить надёжные, масштабируемые и эффективные системы искусственного интеллекта.
Учебное пособие включает в себя лабораторные работы где рассматривается и hardware часть.
#ai #aisecurity #cybersecurity #aisecurity #ml #book
Website
GitHub
Book .pdf
Book .epub
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
2
ЭйАй Секур’илка
Огромное учебное пособие о проектировании, разработке и эксплуатации систем машинного обучения от Гарвардского профессора Виджея Ганапа Ведди. Охватывает полный жизненный цикл ИИ-систем - от инженерных основ и архитектур нейросетей до вопросов производительности…
Please open Telegram to view this post
VIEW IN TELEGRAM
GitHub
GitHub - hybridgroup/yzma: Write Go applications that directly integrate llama.cpp for local inference using hardware acceleration.
Write Go applications that directly integrate llama.cpp for local inference using hardware acceleration. - hybridgroup/yzma
Библиотека на Go для локального запуска и интеграции моделей (LLM, SLM, TLM, VLM). Использует llama.cpp и реализована без CGo.
#github #llama #go
https://github.com/hybridgroup/yzma
The Engine Room⬅
#github #llama #go
https://github.com/hybridgroup/yzma
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
2
Teletype
Whisper Leak
Новая атака, которая позволяет определить тему запроса к LLM, по зашифрованному трафику
Please open Telegram to view this post
VIEW IN TELEGRAM
2
GitHub
GitHub - google/adk-go: An open-source, code-first Go toolkit for building, evaluating, and deploying sophisticated AI agents with…
An open-source, code-first Go toolkit for building, evaluating, and deploying sophisticated AI agents with flexibility and control. - google/adk-go
Google ожидаемо выкатили ADK-Go - открытый фреймворк для создания и развёртывания AI-агентов на Go. Ещё один типобезопасный, производительный и расширяемый способ строить LLM-агентов с инструментами, памятью и мультиагентными сценариями.
Проект пока в альфа-версии, но пользоваться уже можно.
#github #google #go #adkgo
https://github.com/google/adk-go
The Engine Room⬅
Проект пока в альфа-версии, но пользоваться уже можно.
#github #google #go #adkgo
https://github.com/google/adk-go
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
3
devansh
AI pentest scoping playbook
Organizations are throwing absurd amount of money at "AI red teams" who run a few prompt injection tests, declare victory, and cash c...
Довольно интересная статья. Автор пишет почему тестирование систем ИИ отличается от стандартного тестирования на проникновение, разбирает внутреннюю архитектуру, а также затрагивает уже существующие методологии и даже приводит список вопросов, что бы написать свой документ по политики безопасности.
#ai #aisecurity #cybersecurity
https://devansh.bearblog.dev/ai-pentest-scoping/
The Engine Room⬅
#ai #aisecurity #cybersecurity
https://devansh.bearblog.dev/ai-pentest-scoping/
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
2