Центробанк опубликовал Кодекс этики в сфере разработки и применения ИИ на финансовом рынке. Документ рекомендует организациям придерживаться пяти ключевых принципов:

⚫️Человекоцентричность: клиент всегда может выбрать, хочет ли он взаимодействовать с ИИ, и пересмотреть решение, принятое машиной.
⚫️Справедливость: никакой дискриминации и только обоснованное использование личных данных.
⚫️Прозрачность: клиентам сообщают, где применяется ИИ, и маркируют контент, созданный генеративными моделями.
⚫️Безопасность и надежность: контроль качества, защита данных, непрерывность работы.
⚫️Ответственное управление рисками: системный подход к выявлению и минимизации рисков ИИ.

Из интересного:

📎Финансовым компаниям рекомендовано убирать из обучающих выборок данные с дискриминационными факторами — такими как: национальность, язык и раса, принадлежность к политическим партиям и общественным объединениям; вероисповедание и отношение к религии. И настраивать модели так, чтобы такие факторы не учитывались при принятии решений.

📎Очевидность применения ИИ. Пункт 4.2 Кодекса рекомендует информировать клиентов о применении ИИ, если это неочевидно. Но кто определяет степень очевидности? Для одного пользователя автоматический чат-бот — это ИИ, для другого — просто интерфейс. Мне кажется, с юридической точки зрения на практике единственный способ обеспечить прозрачность — всегда уведомлять: «здесь поработал ИИ».

📎А судьи кто? А вот пункт 4.4 Кодекса разрешает не маркировать ИИ-контент, если использование генеративной модели очевидно из обстоятельств или отсутствует риск причинения вреда клиентам.

Но что считать очевидным, и кто решает, есть ли риск вреда? В итоге уведомлять о применении ИИ (п. 4.2) нужно всегда, если это неочевидно, а вот маркировать, например, рекламу — не всегда, что оставляет компаниям простор для трактовок и потенциальных злоупотреблений. Непонятненько. Так что будем ждать пункт в Закон о рекламе по аналогии с БАДами, алкоголем и табаком.

📎Кодекс рекомендует устанавливать и регулярно — при разработке ИИ и его использовании — проверять показатели качества ИИ, проводить валидацию и мониторинг. Но насколько реально для большинства компаний внедрить полноценные процессы контроля, особенно для сложных или закупаемых извне моделей? Возникает вопрос о готовности рынка к такой глубокой самооценке.

Подробнее — в прикрепленном файле

Средний ROI внедрения ИИ в бизнес — 1,7, то есть каждый вложенный доллар приносит $1,7 экономии или дополнительной ценности — Capgemini Research Institute

Где ИИ приносит максимальный ROI?
⚫️Финансы и бухгалтерия — до 2,1x за счет автоматизации операций, ускорения обработки документов, снижения ошибок.
⚫️Цепочки поставок и закупки — до 1,5x благодаря оптимизации логистики, маршрутов и складов.
⚫️HR (people operations) — до 1,5x за счёт автоматизации подбора, сокращения времени найма и снижения затрат на рекрутинг.
⚫️Клиентские операции — 1,7x благодаря автоматизации поддержки и персонализации сервисов.

Как быстро окупаются вложения?
⚫️40% компаний ожидают выйти на положительный ROI уже в течение 1–3 лет после внедрения ИИ.
⚫️Ещё 35% рассчитывают на окупаемость в горизонте 3–5 лет.

Что даёт внедрение?
⚫️Снижение операционных затрат на 26–31% по ключевым направлениям.
⚫️Рост операционной эффективности на 10–25% (по оценкам лидеров рынка, например, Ericsson).
⚫️Сокращение ошибок и ускорение процессов, что напрямую влияет на прибыль и качество сервиса.

Подробнее — в прикрепленном файле.

Недавно белые хакеры обнаружили критическую уязвимость в системе McHire, которую McDonald’s использует для автоматизации найма

Они получили доступ к внутреннему API и базе данных с 64 миллионами записей кандидатов — включая имена, адреса, телефоны, email и историю переписки. И всё из-за пароля «123456» в админской учётке Paradox.ai, разработчика бота.

Когда хакеры попытались сообщить об уязвимости, контакта для экстренной связи не нашлось — пришлось писать наугад. В итоге дыру закрыли, программу баг-баунти запустили, а про пароль «123456» заявили, что «его должны были удалить ещё в 2019».

Как такого избежать

1️⃣ Запрещайте слабые пароли на уровне системы.
Внедряйте требования к сложности, регулярную смену и двухфакторную аутентификацию для всех критичных аккаунтов.

2️⃣Настройте надёжный контроль доступа к API
⚫️Проверяйте права доступа для каждого запроса, а не только при входе.
⚫️ Используйте уникальные, непредсказуемые идентификаторы объектов.
⚫️ Внедряйте принципы Zero Trust и минимальных привилегий.
⚫️Тестируйте API на возможность подмены параметров (IDOR-уязвимости).

3️⃣ Регулярно удаляйте неактивные учётные записи
⚫️Автоматизируйте процесс выявления и блокировки «зависших» аккаунтов.
⚫️ Внедряйте системы управления доступом (IAM) для контроля жизненного цикла учёток.
⚫️Логируйте все действия с аккаунтами для отслеживания аномалий.

Ну и пишите экстренный контакт кого-то из кибербеза😁

История McHire — яркий пример, как пренебрежение базовыми мерами безопасности ставит под удар миллионы персональных данных.

Принесла интересное видео, где Владимир Щекин, сооснователь и совладелец Группы «Родина», эксклюзивно рассказал редакции Всеостройке.pф о настоящих и будущих проектах, в том числе:

⚫️Про совместный проект со Сбером, где ИИ анализирует обезличенные данные на этапе проектирования жилых кластеров. Это помогает учитывать предпочтения будущих жителей — спорт, здоровье, интересы детей, даже вкусы в напитках.

⚫️Про созданную вместе с Высшей школой экономики платформу нейроурбанистики. Там изучают реакцию человека на цвета, формы и благоустройство. Группа «Родина» выступает за включение нейропоказателей в структуру мастер-планов.

⚫️А также о том, что типизация и роботизация проектирования не должна влиять на уникальность архитектуры.

Глобальный рынок генеративного ИИ вырастет с $5,5 млрд в 2020 году до $356,1 млрд в 2030 году (рост более чем в 60 раз, среднегодовой темп — 51,7%) — по данным отчёта АНО «Цифровая экономика», «Сколково» и Statista

Остальное интересное:
⚫️Только решения для CAD-инженерии достигнут $47,9 млрд к 2030 году, цифровые двойники — $155,8 млрд, ИИ в робототехнике — $124,8 млрд, чат-боты и языковые интерфейсы —$27,3 млрд.
⚫️К 2030 году доля генеративного ИИ в общем рынке ИИ-решений превысит 40%.

В России уже запущены пилотные проекты в авиастроении, энергетике, фармацевтике. Есть кейсы ускорения выпуска конструкторской документации в 2-3 раза и снижения числа ошибок до 40%.

Основные проблемы внедрения ГенИИ в инженерии России:
⚫️нехватка собственных LLM и разработок;
⚫️дефицит кадров;
⚫️ограниченность инфраструктурных ресурсов;
⚫️отсутствие нормативно-правовой базы;
⚫️фрагментарность внедрения (преимущественно — пилоты без масштабирования);
⚫️слабое развитие образовательных программ для подготовки кадров.

Подробнее — в прикрепленном файле.

Залипательное видео про платформу на базе ИИ для крупноформатной 3D-печати металла и управления промышленными роботами от британской компании Ai Build. С ее помощью недавно построили мост в Индии за неделю вместо 2 месяцев, сэкономили 25% металла и до 60% трудозатрат

В основе печати — метод геодезического слайсинга, при котором модель разбивается на слои, следующие её кривизне, а не просто на горизонтальные срезы. Это уменьшает потребность в поддерживающих структурах, улучшает сцепление слоёв и снижает внутренние напряжения в детали, что позволяет более эффективно использовать материал и сокращать отходы.

Платформа состоит из трёх элементов:
⚫️AiSync — облачное приложение для дистанционного управления и мониторинга печати.
⚫️AiMaker — роботизированный экструдер с ИИ, который контролирует подачу материала, сварку и качество в реальном времени.
⚫️AiCell — печатный модуль-камера, в котором ИИ поддерживает стабильные условия по температуре, влажности и вибрации.

Платформа также интегрируется и со станками с ЧПУ, где ИИ автоматически формирует оптимальные траектории для 3D-печати и операций фрезерования, сверления и гравировки, адаптируя параметры под состояние инструмента и материала.

69% мегаполисов мира уже разработали стратегии умного города, однако реализация сталкивается с серьезными вызовами, требующими комплексного подхода. Главные — ниже:

Стремительный рост потребления электроэнергии.
К 2050 году производство электроэнергии может увеличиться на 30–76% из-за активного развития цифровых технологий и центров обработки данных. А значит — нужно наращивать мощности, модернизировать энергосистемы и внедрять ИИ в управление энергопотреблением.

💚 Кейс из Стокгольма: теплом, выделяемым дата-центрами DigiPlex, планируют отапливать около 10 тысяч квартир. Такая интеграция инфраструктур позволяет сократить затраты и нагрузку на энергосистемы, демонстрируя путь к энергоэффективному городу.

Рост киберугроз.
35% муниципальных органов испытывают сложности в защите данных в рамках проектов умных городов. Чем больше сервисов «уходит» в электронный формат, тем выше риски. Поэтому решения — внедрение криптографии, строгих протоколов кибербеза, анонимизация информации, а также работа над нормативкой.

Сложности проектного управления и интеграции систем.
73% муниципалитетов отмечают отсутствие общего технического стандарта для умного города как серьезное препятствие. Одно из решений — общая платформа данных, чтобы снизить дублирование данных между отраслевыми ИТ-системами, несовместимость форматов,
пробелы в информации.

Подробнее — в прикрепленном файле.

Яндекс открыл для бизнеса два вида векторного поиска в системе управления базами данных YDB. Решение доступно и в облаке Яндекса, и на серверах клиента.

Доступны:

⚫️Точный векторный поиск гарантирует наилучшие результаты за счёт точного сравнения векторов. Идеален для работы с небольшими и часто обновляемыми наборами данных. Обеспечивает строгую транзакционную согласованность и мгновенное обновление данных.

⚫️Приближённый векторный поиск позволяет быстро искать среди миллиардов векторов даже при больших объёмах. Использует специальные векторные индексы, разделяющие данные на кластеры для ускорения поиска. Такой вариант удобен для масштабируемых и высоконагруженных систем

Зачем нужно?
Чтобы создавать свои базы данных, чат-ботов на RAG и более точно искать по ответам. Это позволит бизнесу быстрее создавать продукты на базе ИИ.

Подробнее про виды векторного поиска — в статье на Хабре.

«ИИ в девелопменте. Трансляции не будет» — увидела я и зарегистрировалась на офлайн. Так что схожу, а потом самое интересное напишу на канале

Что, когда и где
🔵BIM Просвет Офлайн
🔵Вторник, 22 июля с 11:00 до 15:00
🔵В центре Москвы (конкретику пообещали позже).

Спикеры
Эксперты из ПИКа, ГК ФСК, Sminex, Нанософта, «Клуба BIM-лидеров», Signal и РЖД.

Обсудят главное по ИИ
От проблем внедрения LLM и организации собственных ML-отделов до ИИ-автоматизации повседневной работы проектировщиков и BIM — создания агентов с помощью n8n, получения ведомостей объемов работ, генерации массинга и планировок квартир и многое другое.

Будет интересно послушать реальные кейсы применения ИИ для отечественной стройки. Если соберетесь, то вот тут регистрация.

Instone Development перешел в управление государству

😉 Управляющей компанией ООО «Инстоун девелопмент», которое владеет, в частности, подмосковным логопарком «Южные врата» на 460 тыс. кв. м, 15 июля стало ООО «Нефтехимремстрой» вместо прежнего руководителя Валерия Жукова. Эта компания, в свою очередь, принадлежит Росимуществу.

😉 Скорее всего, управление компанией перешло в рамках иска Генпрокуратуры к акционеру Instone Development Алексею Митюшову и его партнерам. Их всех подозревают в выводе из фирмы «Газпром нефтехим Салават» порядка 150 млрд руб. Ранее Фрунзенский суд Санкт-Петербурга обратил в доход государства паи фондов под управлением компании «Меркури кэпитал траст», которой и принадлежит Instone Development.

#ЖБЗ_узнал

К 2030 году объем рынка ИИ в Индии достигнет $17 млрд. Более 50% доходов будет приходиться на программное обеспечение и ИТ-услуги. Ниже — главное из отчета India's AI Uprising: GenAI, Agents & The Future of Startups, 2025

Структура ИИ-рынка
⚫️Индия — третья по величине экосистема стартапов в мире с 70K+ технологическими стартапами, $161 млрд+ привлеченных инвестиций и 122 единорога.

⚫️82% индийских ИИ-стартапов работают на уровне приложений (SaaS, инструменты, платформы), тогда как инвестиции в фундаментальные технологии (инфраструктуру, модели, чипы) пока невелики.

⚫️За 5 лет объём венчурного финансирования ИИ-стартапов вырос в 5,4 раза, крупнейшая часть инвестиций направлена на бизнес-приложения, а не фундаментальные разработки.

⚫️В 2024 году инвестиции в ИИ-стартапы достигли $1.5 млрд, но только 18% направлено на инфраструктуру (например, полупроводники, foundation-модели). Такая ориентация на прикладные решения создаёт зависимость от зарубежных технологий и инфраструктуры, ограничивая суверенитет в ИИ.

ТОП-5 индийских ИИ-единорогов

⚫️Krutrim — первый индийский единорог, создающий собственные большие языковые модели (LLM) для индийских языков и бизнес-решений, а также ИИ-чипы.

⚫️Eightfold.ai создала ИИ-платформу для автоматизации HR и подбора персонала.

⚫️Gupshup создает чат-ботов и голосовых ассистентов и обрабатывает более 10 млрд сообщений ежегодно.

⚫️Yellow.ai разрабатывает ИИ-ассистентов для автоматизации поддержки клиентов в банковском деле, ритейле и логистике.

⚫️Uniphore — мировой лидер в области Voice AI и анализа эмоций в клиентских звонках.

Подробнее — в прикрепленном файле.