Простите, но генерация кода - полное Г

Модель ИИ - является конечным автоматом: да или нет.

Конечный автомат — это математическая абстракция, модель дискретного устройства, имеющего один вход, один выход и в каждый момент времени находящегося в одном состоянии из множества возможных. Конечный автомат (КА) имеет конечное число состояний, переходит между состояниями на основе входных символов (например, букв или слов), работает по жестко заданным правилам (детерминированно или недетерминированно), обрабатывает дискретные последовательности (например, строки).
Почему модели ИИ не являются конечными автоматами?
1) Модели ИИ работают с непрерывными векторными представлениями данных, а не с дискретными состояниями.
Входные данные (слова или символы) преобразуются в векторы (эмбеддинги).
Состояния модели (например, скрытые состояния в RNN) — это векторы в многомерном пространстве, а не конечный набор дискретных значений.
2) Отсутствуют жесткие правила переходов
Конечные автоматы переходят между состояниями по жестко заданным правилам, а в моделях ИИ: переходы между состояниями определяются обученными параметрами (например, весами нейронной сети).
и поведение модели зависит от данных, на которых она обучалась, а не от заранее заданных правил.
3) Контекст произвольной длины
Конечные автоматы ограничены конечным числом состояний и могут обрабатывать только контекст фиксированной длины. Модели ИИ, такие как трансформеры, могут учитывать контекст произвольной длины благодаря механизмам внимания (attention).
4) Обучение и адаптация
Модели ИИ обучаются на данных и могут адаптироваться к новым задачам. Конечные автоматы не обучаются — их поведение задается явно на этапе проектирования.
Когда модель ИИ может быть похожа на конечный автомат?
В некоторых случаях поведение модели ИИ может быть аппроксимировано конечным автоматом, но это лишь упрощение. Например рекуррентные нейронные сети RNN могут запоминать состояния и обрабатывать последовательности, что делает их поведение отчасти похожим на конечные автоматы. Однако RNN работают с непрерывными состояниями и могут обрабатывать контекст произвольной длины.
Некоторые модели ИИ могут обучаться правилам, которые можно интерпретировать как переходы между состояниями, но это лишь частный случай.
А что с GPT (Generative Pre-trained Transformer)?
-GPT использует механизм внимания (attention) для обработки контекста произвольной длины.
-GPT работает с непрерывными векторными представлениями текста.
-GPT обучается на данных и может генерировать текст, который не может быть описан конечным набором правил.
-GPT не является конечным автоматом, так как его поведение не сводится к конечному числу состояний и жестко заданным правилам переходов.

Поэтому нет - это не КА, а иногда очень бы хотелось...

Confusion Attacks: Exploiting Hidden Semantic Ambiguity in Apache HTTP Server! | Orange Tsai
https://blog.orange.tw/posts/2024-08-confusion-attacks-en/

Всё таки это талант... Считаю это топ-1

OAuth 2.0 стал RFC.

https://datatracker.ietf.org/doc/rfc9700/

Databricks AI Security Framework 2.0: что нового во втором релизе фреймворка?

Databricks выпустили Databricks AI Security Framework (DASF) v2.0 – второй релиз своего фреймворка для безопасности конвейера разработки приложений с моделями машинного обучения (MlSecOps).

DASF 2.0 призван помочь организациям, которые активно внедряют инновации в области ИИ и при этом не хотят стать более уязвимыми перед рисками безопасности и конфиденциальности.

Изменения в DASF 2.0:

1️⃣ Релиз приведен в соответствие с нормативным стандартам типа GDRP (Общим регламентом по защите данных Евросоюза) и CCPA (Законом о защите прав потребителей Калифорнии).
2️⃣ Описаны 62 риска безопасности любой системы ИИ.
3️⃣ Риски сопоставлены с общими структурами безопасности ИИ.
4️⃣ Даны рекомендации по 64 элементам управления, которые применимы к любой платформе данных и ИИ.
5️⃣ Расширено сопоставление с известными фреймворками и стандартами рисков ИИ – MITRE ATLAS , OWASP LLM & ML Top 10, NIST 800-53, NIST CSF, HITRUST, ENISA's Securing ML Algorithms, ISO 42001, ISO 27001:2022.
6️⃣ Появился AI-ассистент.
7️⃣ Добавлена версия фреймворка в xlsx.
8️⃣ Доступен бесплатный часовой курс по обращению с фреймворком и обучающие ролики.

Источник: https://www.databricks.com/resources/whitepaper/databricks-ai-security-framework-dasf

#ИИ #ИБ

Гении ошибались 40 лет: студент случайно открыл новый способ хранения данных
https://www.securitylab.ru/news/556413.php

Keycloak pentest

Articles
Part 1 - Link

* Am I Testing Keycloak?
* Keycloak Version Information
* OpenID Configuration /SAML Denoscriptor
* Realms (Enumeration && Self-Registration Enabled)
* Client IDs
* Scopes
* Grants
* Identity Providers
* Roles
* User Email Enumeration

Part2 - Link

Reconnaissance
* Additional Services and Ports
* Interesting Local Files
* Reconnaissance Conclusion

Exploitation
* Brute Force Login
* Bypassing/Automating CSRF
* JWT Signing Algorithms
* Make the most out of your scopes/roles
* offline_access
* uma_authorization
* profile
* email
* address
* phone

Tools
Keycloak security scanner - Link

* Начиная с keycloak 17.0+ роут /auth в URL должен быть пропущен (/realms/realm_name/)

Nuclei AI Prompts

Nuclei v3.3.9 (@pdiscoveryio) has -ai option to generate and run nuclei templates on the fly in natural language.

This is a list of prompts for this option:

- sensitive data exposure
- SQLi
- XSS
- SSRF

and more

https://github.com/reewardius/Nuclei-AI-Prompts

By twitter.com/reewardius

Идем по киберследу. Анализ защищенности Active Directory c помощью утилиты BloodHound, Дмитрий Неверов, 2025