На этом OFFZONE буду выступать с докладом, в дуэте с коллегой @Su9r3m3.

Расскажем про RAG в LLM, его архитектуру, вектора атак, разберём пару инцидентов и закончим защитой от подобного.

22 августа в AI.ZONE
с 16:50 - 17:30

Для полноты картины, рекомендую придти к 16:10 и сначала послушать доклад про атаки на RAG-пайплайны, после, не вставая с места, послушать как мы углубимся в атаки на RAG.

Готовьте свои глазки 👁, доклад будет полностью в белой теме

Гляди, выложили запись нашего доклада тRAGедия LLM по атакам на RAG ☄️

upd: ссылка на ютуб

#ai #research #talk

В прошедший вторник посетил ядерный МИФИ ☢ и лекцию по PWN в его стенах

Помимо зубодробительной бинарщины, подметил интересный приём Паши по ответу на вечный вопрос "надо ли повторить?"

Вместо:

Все всё поняли? Поднимите руку, кто не понял

Паша спрашивает:

Понятно? Кто понял, поднимите руку

И этот мелкий сдвиг с "я тупой и не понял" в "ого, я умный, я понял", как никак лучше отвечает на вопрос "нужно ли повторить?"

Почему важно?
Студенты не хотят признавать "я тупой и не понял". Преподавателю же надо понимать, может ли он двигаться дальше по теме, иначе вся лекция будет бессмысленной.


Поэтому, спрашиваем, когда не понятно, признаём непонимание и становимся сильнее 🤬

#teach

В позапрошлую субботу, посетил лекцию "Как вырасти до мирового уровня" от Alisa Esage, что побеждала в pwn2own, находила 0day как в гипервизорах, так и в браузерном V8.

Знаю, тебе не интересно слушать "как прошла лекция", поэтому давай сразу к полезным для меня мыслям ::
0) В pwn2own, за всё время, участвовало преступно мало русских - всего 2 (надо исправлять)


1) Нельзя и невозможно быть уверенным, что лишь определенные части системы ведут к уязвимости.

Когда Алиса подавалась в журнал Phrack, редакторы заметили утверждение

уязвимость будет актуальна только для X платформы

и отметили

нельзя быть уверенным в этом, ведь скорее это твой майндсет позволил найти такой путь, нежели то, что он только один.

К примеру, изучая MS-EFSR abuse (PetitPotam), заметил, что уязвимость, изначально воспринималась только как локальное повышение привилегий, пока какой-то ресерчер не нашел путь до удаленной эксплуатации.


2) Необязательно быть пывнером бинарным, чтобы участвовать в pwn2own.

Как оказалось, ZDI (организаторы pwn2own), принимают не только сумасшедшие побеги из песочницы и RCE, но и понятые для веберов уязвимости.

К примеру, тут, ресерчеры из CrowdStrike, описывают как пробивали Cisco роутер через веб, параллельно читая исходники. Чем ты хуже?


3) Контекст важнее окружения.

Во время лекции задал вопрос

важны ли окружающие люди, или достаточно внутреннего огня?

На что получил ответ

Люди не важны. Важен контекст, которым ты себя окружаешь. Не зацикливайся только на контексте СНГ, иди почитай X или тот же Phrack. Погрузись в мировой контекст. Посмотри, что происходит за пределами RU тг-каналов.

4) Fuzzing is not a god.

Если бы фаззинг мог найти всё, то почему кластеры Google с сотнями машин ещё не истребили все CVE в опенсурсе?

Потому что важно, куда этот фаззер запускается. Про то, как фаззить осознанно, у Алисы тоже есть лекция - Fuzzing with First Principles


5) В ББ / соревнованиях с призовыми, мы продаём свои уязвимости (продукт), нежели пытаемся чето-то заработать по нашей часовой ставке (сервис)

Мелкий сдвиг в майндсете, но самоощущение меняется. Это не мне кидают выплату, а я даю площадкам возможность купить мой продукт.

Конечно, в этом утверждение есть много нюансов, но основная мысль

Обучаясь новым скиллам и техникам, я улучшаю продукт и соотвественно его ценность

Почему это мысль важна для меня?
Уже, почти как год, активно слушаю подкаст Founders, где автор изучает биографии отличительных изобретателей, предпринимателей и ремесленников.

Каждый из них делал свой продукт, в том, или ином виде. Kobe Bryant и Tiger Woods продавали свои победы. Ettore Bugatti и James Dyson продавали свои изобретения.

Слушая их истории, мне хотелось тоже начать создавать продукт, но не было и малейшего желания распыляться от увлечения пентестом.

Как оказалось, всё это время, я неосознанно, делал, улучшал и разрушал свои навыки создания продукта в виде уязвимости или эксплоита.

Мои навыки - это и есть фундамент продукта, который так долго искал ⭐️

#mindops