Об архитектуре трансформеров в проектировании

#учимся

Трансформер — это архитектура глубокого обучения, которая изначально была разработана для обработки последовательностей данных (например, текста), но теперь широко применяется и в задачах генерации и анализа архитектурных объектов.

Разновидности: BERT (анализ текста), GPT (генерация текста), DETR (распознавание объектов на изображениях), T5 (преобразование текста), Swin Transformer (трансформер для компьютерного зрения) и другие.

Основные компоненты:
Трансформер состоит из блоков внимания (self-attention), которые позволяют модели учитывать взаимосвязи между разными частями входных данных одновременно, а не по очереди. Это особенно полезно для понимания сложных структур, например, взаимосвязей между элементами архитектурного плана или 3D-модели.

На вход модели даются параметры и стандарты. Механизм внимания выявляет ключевые зависимости, например, что кухня должна быть рядом с гостиной, а санузлы распределены по этажам.

Принцип работы:
Модель получает на вход последовательность данных (например, описания помещений, координаты точек, параметры поверхностей) и преобразует её в новое представление, учитывая контекст каждого элемента относительно всех остальных. Это позволяет создавать более согласованные и структурированные архитектурные объекты.

Особенности в архитектуре:
Трансформеры хорошо справляются с моделированием пространственных и семантических связей, что важно для генерации планов зданий, фасадов и даже сложных 3D-форм. Благодаря параллельной обработке данных они эффективны и масштабируемы.

Пример использования:
В архитектуре трансформеры могут принимать описание проекта или частичные данные и генерировать полный план здания, учитывая функциональные связи между помещениями и требования к пространству.

В архитектуре трансформеры применяются в связке с другими нейросетями — например, генеративно-состязательные сети (GAN) и диффузионные модели. Трансформеры отвечают за аналитику и соблюдение правил — моделирование связей, а GAN или диффузионные модели — за творчество и красоту, создавая визуал и форму.

Скрин — из статьи Attention Is All You Need, в которой была впервые представлена архитектура трансформера.

После хороших выходных к вечеру понедельника у меня тоже иногда такое осмысленное выражение лица 😁

Тем временем есть такое направление, как промышленный туризм. Среди мест, которые можно посетить, есть и экскурсия на производство сервисных роботов Промобот (это их гуманоидные модели на видео). Если будете в Перми — вот вам интересная локация.

В отчете Responsible AI Transparency Report 2025 Microsoft подробно описывает инструменты на базе Azure, предназначенные для выявления, оценки и снижения рисков, связанных с ИИ. Вот ключевые решения:

Azure AI Content Safety
Автоматически фильтрует вредоносный контент (текст, изображения, аудио) и выявляет «галлюцинации» ИИ с возможностью автокоррекции. Используется в образовательных чат-ботах для защиты пользователей.

Azure AI Foundry
Централизованная платформа для тестирования и развертывания ИИ-моделей. Включает сравнение моделей, автоматическое тестирование уязвимостей и оценку агентных систем. Помогает клиентам проверять модели перед запуском.

Prompt Shield
Защищает от prompt-атак, блокируя вредоносные запросы до их обработки моделью. Особенно важен для корпоративных решений вроде Microsoft 365 Copilot.

Azure AI Evaluation SDK
Позволяет настраивать оценку рисков под конкретные задачи, включая анализ токсичности контента и точности работы ИИ. Применяется в научных исследованиях.

Embedded Content Safety
Обеспечивает модерацию контента непосредственно на устройстве без отправки данных в облако. Используется в медицине и других сферах с чувствительными данными — ПД и прочим.

Инструменты Azure от Microsoft обеспечивают защиту на всех этапах — от разработки до промышленной эксплуатации моделей. Подробнее — в прикрепленном файле.

Отделу кибербеза будет интересно посмотреть, как делает «Большой брат».

Тем временем Яндекс разработал новое поколение рекомендательных систем ARGUS

... и недавно выложил в открытый доступ огромный датасет обезличенных данных, на которых обучали ARGUS, — Yambda.

А в видео специалисты компании рассказали, как работают их сервисы теперь, что учитывают и зачем такая система нужна бизнесу.

Например, после внедрения ARGUS в Маркет клиенты стали добавлять товары из рекомендаций на 3% чаще, а покупать добавленное из рекомендаций — на 5%.

Чем это может быть интересно застройщикам:

1. Изучить и попробовать коррелировать результаты с действиями клиентов при выборе недвижимости.

2. Изучить в рамках развития retail media — рекламных кампаний, размещённых на платформах ритейлеров, маркетплейсах и интернет-магазинах.

Рокет Групп добавила на платформу rTIM площадки благоустройства — теперь можно создавать еще более реалистичные градостроительные концепции — со всеми типами площадок

rTIM — платформа генеративного проектирования с ИИ, создающая 5 сценариев развития территории: планировку, трассировку дорог, размещение зданий, парков, инженерных сетей и социальных объектов, а также рассчитывает технико-экономические показатели и разбивает проект на очереди.