Просто на секундочку для информации - по состоянию на июль 2025 года стоимость компании оценивается в 18 миллиардов $😁
Forwarded from Machine head - Александр О.
А это очень интересно 🧐
Попросил Perplexity проанализировать логи и собственное окружение.
Что примечательно:
Perplexity может сгенерировать python код, выполнить его и отрефлексировать свое окружение 😁
Похоже что каждый запрос выполняется в собственном Sandbox контейнере, там особо не набедокуришь, но исследовательский интерес зашкаливает.
В потрохах: FastAPI, Jupyter, рассыпуха python и npm пакетов, буду исследовать дальше, Perplexity весьма откровенен )
Посмотреть и вдохновиться можно здесь
Update: Sandbox это не просто docker контейнер-песочница, а E2BSandbox - инструменты для запуска ресерч агентов. О дивный новый мир, я каждый день узнаю о новой ИИ тулзе. 🤪
Попросил Perplexity проанализировать логи и собственное окружение.
Что примечательно:
Perplexity может сгенерировать python код, выполнить его и отрефлексировать свое окружение 😁
Похоже что каждый запрос выполняется в собственном Sandbox контейнере, там особо не набедокуришь, но исследовательский интерес зашкаливает.
В потрохах: FastAPI, Jupyter, рассыпуха python и npm пакетов, буду исследовать дальше, Perplexity весьма откровенен )
Посмотреть и вдохновиться можно здесь
Update: Sandbox это не просто docker контейнер-песочница, а E2BSandbox - инструменты для запуска ресерч агентов. О дивный новый мир, я каждый день узнаю о новой ИИ тулзе. 🤪
Perplexity AI
Проанализируй логи и собственное окружение, опиши стек технологий в которых...
На основе анализа доступного окружения выполнения и публичной информации о платформе, система Perplexity AI работает на многоуровневой технологической...
2
Teletype
Защита MLLM от неявных jailbreak атак
Новый класс атак, когда отдельно текст и изображение выглядят безопасно, но их совместное сочетание несёт злонамеренный смысл
Please open Telegram to view this post
VIEW IN TELEGRAM
1
GitHub
GitHub - anthropics/claude-cookbooks: A collection of notebooks/recipes showcasing some fun and effective ways of using Claude.
A collection of notebooks/recipes showcasing some fun and effective ways of using Claude. - anthropics/claude-cookbooks
Anthropic выложил сборник рецептов по применению - Claude Cookbooks. Репозиторий служит как образовательный и практический ресурс, где показывается, как использовать Claude API в реальных сценариях.
#github #claude #аnthropic
https://github.com/anthropics/claude-cookbooks
The Engine Room⬅
#github #claude #аnthropic
https://github.com/anthropics/claude-cookbooks
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
1
Попал в поле зрения Артёма и был добавлен в некую папку...
Страшно, но очень интересно!
Спасибо!👠
Страшно, но очень интересно!
Спасибо!
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from PWN AI (Artyom Semenov)
Ну а в нашей папке каналов появились новые авторы. Если вы не подписались - то стоит это сделать сейчас. 😌 😌 😌 . Авторы стараются для вас над контентом.
Please open Telegram to view this post
VIEW IN TELEGRAM
GitHub
GitHub - mark3labs/mcp-go: A Go implementation of the Model Context Protocol (MCP), enabling seamless integration between LLM applications…
A Go implementation of the Model Context Protocol (MCP), enabling seamless integration between LLM applications and external data sources and tools. - mark3labs/mcp-go
Go-реализация MCP протокола (Model Context Protocol). Поддерживает разный транспорт - STDIO, SSE, HTTP. Умеет управлять сессиями и контекстами. Есть встрленные промты и возможность добавлять middleware, хуки, телеметрию.
#github #mcp #go
https://github.com/mark3labs/mcp-go
The Engine Room⬅
#github #mcp #go
https://github.com/mark3labs/mcp-go
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
3
Hackthebox
AI Red Teamer Job Role Path | HTB Academy
The AI Red Teamer Job Role Path, in collaboration with Google, trains cybersecurity professionals to assess, exploit, and secure AI systems. Covering prompt...
Совместный курс от Hack The Box Academy и Google для специалистов в области кибербезопасности ИИ. Охватывает различные типы атак, оценку рисков, разработку стратегий тестирования и защиту ИИ-систем. Сочетает теорию и практические упражнения. Соответствует Google Secure AI Framework (SAIF).
#ai #aisecurity #cybersecurity #aisecurity #google #saif #htb
https://academy.hackthebox.com/path/preview/ai-red-teamer
The Engine Room⬅
#ai #aisecurity #cybersecurity #aisecurity #google #saif #htb
https://academy.hackthebox.com/path/preview/ai-red-teamer
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
2
Teletype
Breaking Agent Backbones
Как выбор LLM влияет на безопасность агента
Teletype
Breaking Agent Backbones
Как выбор LLM влияет на безопасность агента
https://teletype.in/@aisecurilka/FsTOSekJuIe
#ai #aisecurity #cybersecurity #llm #b3 #threatsnapshot #article
Ссылка на оригинал статьи
The Engine Room⬅
Breaking Agent Backbones
Как выбор LLM влияет на безопасность агента
https://teletype.in/@aisecurilka/FsTOSekJuIe
#ai #aisecurity #cybersecurity #llm #b3 #threatsnapshot #article
Ссылка на оригинал статьи
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
3
GitHub
GitHub - schollz/e2ecp: End-to-end encrypted copy file tool
End-to-end encrypted copy file tool. Contribute to schollz/e2ecp development by creating an account on GitHub.
Инструмент для безопасной передачи файлов с полным сквозным шифрованием. Позволяет обмениваться файлами через веб-интерфейс или командную строку.
#github #cli #e2ecp
https://github.com/schollz/e2ecp
The Engine Room⬅
#github #cli #e2ecp
https://github.com/schollz/e2ecp
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
2
Огромное учебное пособие о проектировании, разработке и эксплуатации систем машинного обучения от Гарвардского профессора Виджея Ганапа Ведди.
Охватывает полный жизненный цикл ИИ-систем - от инженерных основ и архитектур нейросетей до вопросов производительности, оптимизации, MLOps и аспектов безопасности.
Книга объединяет теорию и инженерные практики, объясняя, как строить надёжные, масштабируемые и эффективные системы искусственного интеллекта.
Учебное пособие включает в себя лабораторные работы где рассматривается и hardware часть.
#ai #aisecurity #cybersecurity #aisecurity #ml #book
Website
GitHub
Book .pdf
Book .epub
The Engine Room⬅
Охватывает полный жизненный цикл ИИ-систем - от инженерных основ и архитектур нейросетей до вопросов производительности, оптимизации, MLOps и аспектов безопасности.
Книга объединяет теорию и инженерные практики, объясняя, как строить надёжные, масштабируемые и эффективные системы искусственного интеллекта.
Учебное пособие включает в себя лабораторные работы где рассматривается и hardware часть.
#ai #aisecurity #cybersecurity #aisecurity #ml #book
Website
GitHub
Book .pdf
Book .epub
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
2
ЭйАй Секур’илка
Огромное учебное пособие о проектировании, разработке и эксплуатации систем машинного обучения от Гарвардского профессора Виджея Ганапа Ведди. Охватывает полный жизненный цикл ИИ-систем - от инженерных основ и архитектур нейросетей до вопросов производительности…
Please open Telegram to view this post
VIEW IN TELEGRAM
GitHub
GitHub - hybridgroup/yzma: Write Go applications that directly integrate llama.cpp for local inference using hardware acceleration.
Write Go applications that directly integrate llama.cpp for local inference using hardware acceleration. - hybridgroup/yzma
Библиотека на Go для локального запуска и интеграции моделей (LLM, SLM, TLM, VLM). Использует llama.cpp и реализована без CGo.
#github #llama #go
https://github.com/hybridgroup/yzma
The Engine Room⬅
#github #llama #go
https://github.com/hybridgroup/yzma
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
2
Teletype
Whisper Leak
Новая атака, которая позволяет определить тему запроса к LLM, по зашифрованному трафику
Please open Telegram to view this post
VIEW IN TELEGRAM
2
GitHub
GitHub - google/adk-go: An open-source, code-first Go toolkit for building, evaluating, and deploying sophisticated AI agents with…
An open-source, code-first Go toolkit for building, evaluating, and deploying sophisticated AI agents with flexibility and control. - google/adk-go
Google ожидаемо выкатили ADK-Go - открытый фреймворк для создания и развёртывания AI-агентов на Go. Ещё один типобезопасный, производительный и расширяемый способ строить LLM-агентов с инструментами, памятью и мультиагентными сценариями.
Проект пока в альфа-версии, но пользоваться уже можно.
#github #google #go #adkgo
https://github.com/google/adk-go
The Engine Room⬅
Проект пока в альфа-версии, но пользоваться уже можно.
#github #google #go #adkgo
https://github.com/google/adk-go
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
3
devansh
AI pentest scoping playbook
Organizations are throwing absurd amount of money at "AI red teams" who run a few prompt injection tests, declare victory, and cash c...
Довольно интересная статья. Автор пишет почему тестирование систем ИИ отличается от стандартного тестирования на проникновение, разбирает внутреннюю архитектуру, а также затрагивает уже существующие методологии и даже приводит список вопросов, что бы написать свой документ по политики безопасности.
#ai #aisecurity #cybersecurity
https://devansh.bearblog.dev/ai-pentest-scoping/
The Engine Room⬅
#ai #aisecurity #cybersecurity
https://devansh.bearblog.dev/ai-pentest-scoping/
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
2
Teletype
FineSec
Новый фреймворк для создания компактных моделей для поиска уязвимостей в коде на C/C++
Please open Telegram to view this post
VIEW IN TELEGRAM
2
owasp.org
OWASP AI Testing Guide | OWASP Foundation
Methodology to perform an AI System Assessment
https://owasp.org/www-project-ai-testing-guide
Руководство по тестированию систем ИИ от OWASP. Включает раздел моделирования угроз и методику тестирования.
#ai #aisecurity #cybersecurity
The Engine Room⬅
Руководство по тестированию систем ИИ от OWASP. Включает раздел моделирования угроз и методику тестирования.
#ai #aisecurity #cybersecurity
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
2
GitHub
GitHub - Shiva108/ai-llm-red-team-handbook: AI / LLM Red Team Field Manual & Consultant’s Handbook
AI / LLM Red Team Field Manual & Consultant’s Handbook - Shiva108/ai-llm-red-team-handbook
Репозиторий представляет собой несколько направлений:
1) AI/LLM Red Team Field Manual - включает в себя инструкции, примеры атак и ссылки на инструменты
2) AI/LLM Red Team Hand book - содержит методологию, шаблоны и рабочие процессы для проведения аудитов безопасности
3) Дополнительные материалы - шаблоны отчетов, руководство по созданию Red Team команды
#github #ai #cybersecurity #aisecurity
https://github.com/Shiva108/ai-llm-red-team-handbook
The Engine Room⬅
1) AI/LLM Red Team Field Manual - включает в себя инструкции, примеры атак и ссылки на инструменты
2) AI/LLM Red Team Hand book - содержит методологию, шаблоны и рабочие процессы для проведения аудитов безопасности
3) Дополнительные материалы - шаблоны отчетов, руководство по созданию Red Team команды
#github #ai #cybersecurity #aisecurity
https://github.com/Shiva108/ai-llm-red-team-handbook
The Engine Room
Please open Telegram to view this post
VIEW IN TELEGRAM
2