🔤 Predicta Graph - инструмент визуализации, сбора и анализа данных.

➡️https://www.predictagraph.com/

🍪 Поддержать канал
📱 НАШИ КОНТАКТЫ

#⃣ #OSINT #GRAPH

👩‍💻 Как заставить ChatGPT писать🕷эксплойты с помощью Hex Code?

💻Исследователь и по совместительству 🧊Mozilla GenAI Bug Bounty Programs Manager по имени Марко Фигероа в блоге 0Din описывает новую технику prompt-injection с использованием 🖥Hex Code, благодаря которой ему удалось обойти защитные механизмы ChatGPT-4o, открывая лазейку для генерации вредоносного кода.

Hex Code (Шестнадцатеричный код) — это система представления данных в формате, основанном на шестнадцатеричной системе счисления. Например, двоичный код 1111 1111 (8 бит) представлен в шестнадцатеричной форме как FF.

Марко скармливал постепенно шаг за шагом инструкции с помощью Hex Code, обфусцируя свои истинные намерения и вынудил модель предоставить ему 🦠вредоносный код — создание Python-эксплойта для определенной CVE, разработка вредоносного ПО и cкриптов.

Тактика jailbreak использует лингвистическую лазейку, заставляя LLM выполнить, казалось бы, безопасную задачу: преобразование шестнадцатеричных значений. Модель оптимизирована для выполнения инструкций на естественном языке, включая выполнение задач кодирования и декодирования, но она по своей природе не понимает, что преобразование шестнадцатеричных значений может привести к вредным результатам.

По сути, эта ❗️атака злоупотребляет возможностями модели по обработке естественного языка, используя последовательность закодированных задач, в которых вредоносные намерения маскируются до этапа декодирования.

— поясняет исследователь.

🛡 По его мнению, обход защиты ChatGPT-4o демонстрирует необходимость усиления мер безопасности в ИИ-моделях. Исследователь предложил:

1️⃣ Внедрить более надежные механизмы обнаружения закодированного содержимого с помощью HEX или base64, докодируя такие строки на самых ранних этапах.

2️⃣ ИИ-модели должны всегда анализировать широкий контекст пошаговых инструкций, а не оценивать каждый шаг в отдельности.

3️⃣ Необходимо интегрировать более совершенные модели обнаружения угроз, позволяющие выявлять закономерности в контексте создания эксплойтов или исследования уязвимостей, даже если эти закономерности изложены в закодированном или обфусцированном виде.

Подробный разбор в статье:

↘️ https://0din.ai/blog/chatgpt-4o-guardrail-jailbreak-hex-encoding-for-writing-cve-exploits

🛡@Russian_OSINT

📱 А вы уже пробовали использовать нейросети для проверки телефонных номеров? Ловите приспособы для разных нейронок, начиная от Яндексовской...

https://ya.ru/n?text=расскажи+что+знаешь+о+номере+телефона+78126771705

https://you.com/search?q=расскажи+что+знаешь+о+номере+телефона+78126771705&fromSearchBar=true&tbm=youchat&chatMode=default

https://www.perplexity.ai/search/new?q=расскажи+что+знаешь+о+номере+телефона+78126771705

ℹ️ Аналогичная история и с адресами email:

https://ya.ru/n?text=где+упоминается+email+contact@tomhunter.ru

https://you.com/search?q=где+упоминается+email+contact@tomhunter.ru&fromSearchBar=true&tbm=youchat&chatMode=default

https://www.perplexity.ai/search/new?q=где+упоминается+email+contact@tomhunter.ru

🍪 Поддержать канал
📱 НАШИ КОНТАКТЫ

#⃣ #OSINT #PHONE #EMAIL #AI