🔥 Полезные библиотеки Python

Supervision — крутой Python инструмент компьютерного зрения для трекинга объектов.

Установка:

$ pip install supervision[desktop]

Пример определения объектов:

import supervision as sv
model = YOLO('yolov8s.pt')
result = model(IMAGE)[0]
detections = sv.Detections.from_ultralytics(result)
len(detections)
5

Документация:
https://roboflow.github.io/supervision/

⚙️ GitHub/Инструкция

#github #soft #python

🔤 Predicta Graph - инструмент визуализации, сбора и анализа данных.

➡️https://www.predictagraph.com/

🍪 Поддержать канал
📱 НАШИ КОНТАКТЫ

#⃣ #OSINT #GRAPH

👩‍💻 Как заставить ChatGPT писать🕷эксплойты с помощью Hex Code?

💻Исследователь и по совместительству 🧊Mozilla GenAI Bug Bounty Programs Manager по имени Марко Фигероа в блоге 0Din описывает новую технику prompt-injection с использованием 🖥Hex Code, благодаря которой ему удалось обойти защитные механизмы ChatGPT-4o, открывая лазейку для генерации вредоносного кода.

Hex Code (Шестнадцатеричный код) — это система представления данных в формате, основанном на шестнадцатеричной системе счисления. Например, двоичный код 1111 1111 (8 бит) представлен в шестнадцатеричной форме как FF.

Марко скармливал постепенно шаг за шагом инструкции с помощью Hex Code, обфусцируя свои истинные намерения и вынудил модель предоставить ему 🦠вредоносный код — создание Python-эксплойта для определенной CVE, разработка вредоносного ПО и cкриптов.

Тактика jailbreak использует лингвистическую лазейку, заставляя LLM выполнить, казалось бы, безопасную задачу: преобразование шестнадцатеричных значений. Модель оптимизирована для выполнения инструкций на естественном языке, включая выполнение задач кодирования и декодирования, но она по своей природе не понимает, что преобразование шестнадцатеричных значений может привести к вредным результатам.

По сути, эта ❗️атака злоупотребляет возможностями модели по обработке естественного языка, используя последовательность закодированных задач, в которых вредоносные намерения маскируются до этапа декодирования.

— поясняет исследователь.

🛡 По его мнению, обход защиты ChatGPT-4o демонстрирует необходимость усиления мер безопасности в ИИ-моделях. Исследователь предложил:

1️⃣ Внедрить более надежные механизмы обнаружения закодированного содержимого с помощью HEX или base64, докодируя такие строки на самых ранних этапах.

2️⃣ ИИ-модели должны всегда анализировать широкий контекст пошаговых инструкций, а не оценивать каждый шаг в отдельности.

3️⃣ Необходимо интегрировать более совершенные модели обнаружения угроз, позволяющие выявлять закономерности в контексте создания эксплойтов или исследования уязвимостей, даже если эти закономерности изложены в закодированном или обфусцированном виде.

Подробный разбор в статье:

↘️ https://0din.ai/blog/chatgpt-4o-guardrail-jailbreak-hex-encoding-for-writing-cve-exploits

🛡@Russian_OSINT