Forwarded from AISecHub
Agentic AI Risk-Management Standards Profile
A new paper authored by researchers from the Center for Long-Term Cybersecurity’s Artificial Intelligence Security Initiative (AISI) focuses on “AI agents” or “agentic AI,” AI systems that can autonomously pursue goals and take actions with little to no human oversight, often through interaction with external environments and tools.
https://cltc.berkeley.edu/2026/02/11/new-cltc-report-on-managing-risks-of-agentic-ai/
A new paper authored by researchers from the Center for Long-Term Cybersecurity’s Artificial Intelligence Security Initiative (AISI) focuses on “AI agents” or “agentic AI,” AI systems that can autonomously pursue goals and take actions with little to no human oversight, often through interaction with external environments and tools.
https://cltc.berkeley.edu/2026/02/11/new-cltc-report-on-managing-risks-of-agentic-ai/
Forwarded from VP Cybersecurity Brief
Кибербез попал в список причин почему пилот по ИИ может провалиться в исследовании МШУ Сколково.
https://www.skolkovo.ru/researches/ot-pilota-k-masshtabu-kak-vstroit-ii-v-processy-i-poluchit-otdachu/
https://www.skolkovo.ru/researches/ot-pilota-k-masshtabu-kak-vstroit-ii-v-processy-i-poluchit-otdachu/
Школа управления СКОЛКОВО - бизнес-образование, бизнес-обучение в Москве
От пилота к масштабу: как встроить ИИ в процессы и получить отдачу
Forwarded from VP Cybersecurity Brief
По прогнозам, в 2026 году вопрос окупаемости ИИ будет критичным для успеха проектов по ИИ.
Организаторы обещали, в том числе, затронуть вопросы прайваси и обезличивания как влияющие на окупаемость.
Организаторы обещали, в том числе, затронуть вопросы прайваси и обезличивания как влияющие на окупаемость.
Forwarded from Neural Kovalskii
ROИИ 2026 конференция про AI который окупается
19 и 20 февраля онлайн, 12 докладов за 2 дня
Собрали лайнап из практиков которые реально внедряют AI в бизнес и считают P&L а не рассказывают про промпты
Я тоже выступаю
Формат жесткий: 30 минут контент 10 минут Q&A без длинных вступлений про историю ИИ
Спикеры фаундеры тех-лиды CPO CTO и Head of AI из Битрикс24 Skyeng DialogAI red_mad_robot и не только
Первый день про продукт и стратегию: экономика AI-фич трансформация команд build vs buy
Второй день про маркетинг и рост: автоматизация воронок персонализация founder-led контент
Среди спикеров Поляков покажет воркшоп про скиллы для ChatGPT и Claude на примере Вордстата, Макс расскажет про Product Engineer роль которая меняет рынок разработки
Попасть можно бесплатно при подписке на каналы спикеров через бота на сайте
Или платно если нужен сертификат
Программа и регистрация тут
Приходите будет мясо без воды
19 и 20 февраля онлайн, 12 докладов за 2 дня
Собрали лайнап из практиков которые реально внедряют AI в бизнес и считают P&L а не рассказывают про промпты
Я тоже выступаю
Формат жесткий: 30 минут контент 10 минут Q&A без длинных вступлений про историю ИИ
Спикеры фаундеры тех-лиды CPO CTO и Head of AI из Битрикс24 Skyeng DialogAI red_mad_robot и не только
Первый день про продукт и стратегию: экономика AI-фич трансформация команд build vs buy
Второй день про маркетинг и рост: автоматизация воронок персонализация founder-led контент
Среди спикеров Поляков покажет воркшоп про скиллы для ChatGPT и Claude на примере Вордстата, Макс расскажет про Product Engineer роль которая меняет рынок разработки
Попасть можно бесплатно при подписке на каналы спикеров через бота на сайте
Или платно если нужен сертификат
Программа и регистрация тут
Приходите будет мясо без воды
Forwarded from VP Cybersecurity Brief
https://incrussia.ru/specials/genai-map-russia/
Карта российских решений по ИИ. Раздела по безопасности нет, но какие то решения упомянуты в разделах, например Hivetrace.
Пригодится если нужно предложить шорт лист для тестирования замены зарубежных решений.
Карта российских решений по ИИ. Раздела по безопасности нет, но какие то решения упомянуты в разделах, например Hivetrace.
Пригодится если нужно предложить шорт лист для тестирования замены зарубежных решений.
incrussia.ru
Карта российского ИИ - Инк.
Рубрика Карта российского ИИ.
Forwarded from VP Cybersecurity Brief
Как я ранее написал, 2026 год будет годом реальной оценки эффективности ИИ и соответственно мер по безопасности ИИ.
Одна из популярных метрик по оценке эффективности любых вложений это ROI - (Return on Investment). Вот так описывает ROI английская википедия "Return on investment (ROI) or return on costs (ROC) is the ratio between net income or profit to investment (costs resulting from an investment of some resources)".
На одной из недавних конференций спикер процитировал опрос Уортонской школы бизнеса при Пенсильванском университете: "74% процента фиксируют положительный ROI".
Я с энтузиазмом начал искать первоисточник, как значительное подтверждение в целом окупаемости решений ИИ и перспектив развития средств защиты ИИ.
Вот сам отчет.
К моему сожалению отчет не содержит однозначных объективных подтверждений положительного ROI. Вывод о положительном ROI сделан на основе "бесед" внутри компании, а самый позитивный ответ в этом вопросе допускает вместо финансовой выгоды "значительное операционное улучшение".
Только 72% из опрошенных менеджеров подтвердили наличие в компании стабильной практики оценки ROI.
Из всех опрошенных менеджеров ROI как расчет прибыли\потерь оценивают только 46% менеджеров, другие менеджеры используют метрики типа использованные часы, количество кликов и другие косвенные метрики. Сравните это с определением ROI из Wikipedia.
Другие, неочевидные для меня, результаты опроса:
1. Ожидание, что использование ИИ улучшит безопасность организации поднялось на 6 мест с 2023 года (с 15 на 9 место) .
2. При этом основным риском в 2025 году по использованию ИИ стали риски безопасности, а риск обеспечения приватности данных клиента снизился с 1 первого места 2024 года, до 4 го места.
Выборка в опросе довольно большая - 800 человек опрошенных, но при этом опрос производился он-лайн в течении 15 минут.
Вывод - убедительных доказательств положительного ROI пока я не нашел =). Все пока выглядит так, что 2026 год поможет измерить реальную выгоду от ИИ.
Важное уточнение от меня
Мы уже живем в экономике "копилота". ИИ уже драматически меняет рынок труда, time to market решений, драматически снизил время от публикации информации об уязвимости до появления боевых эксплоитов, находятся критические уязвимости в продуктах которых фаззили миллионы часов до этого.
Большая часть бизнеса с использованием информационных технологий уже находится в ситуации FOMO (fear of missing out).
Доказанный положительный ROI будет лишь фактором ускорения инвестиций в ИИ.
Поделитесь своим мнением в комментариях =)
Одна из популярных метрик по оценке эффективности любых вложений это ROI - (Return on Investment). Вот так описывает ROI английская википедия "Return on investment (ROI) or return on costs (ROC) is the ratio between net income or profit to investment (costs resulting from an investment of some resources)".
На одной из недавних конференций спикер процитировал опрос Уортонской школы бизнеса при Пенсильванском университете: "74% процента фиксируют положительный ROI".
Я с энтузиазмом начал искать первоисточник, как значительное подтверждение в целом окупаемости решений ИИ и перспектив развития средств защиты ИИ.
Вот сам отчет.
К моему сожалению отчет не содержит однозначных объективных подтверждений положительного ROI. Вывод о положительном ROI сделан на основе "бесед" внутри компании, а самый позитивный ответ в этом вопросе допускает вместо финансовой выгоды "значительное операционное улучшение".
Только 72% из опрошенных менеджеров подтвердили наличие в компании стабильной практики оценки ROI.
Из всех опрошенных менеджеров ROI как расчет прибыли\потерь оценивают только 46% менеджеров, другие менеджеры используют метрики типа использованные часы, количество кликов и другие косвенные метрики. Сравните это с определением ROI из Wikipedia.
Другие, неочевидные для меня, результаты опроса:
1. Ожидание, что использование ИИ улучшит безопасность организации поднялось на 6 мест с 2023 года (с 15 на 9 место) .
2. При этом основным риском в 2025 году по использованию ИИ стали риски безопасности, а риск обеспечения приватности данных клиента снизился с 1 первого места 2024 года, до 4 го места.
Выборка в опросе довольно большая - 800 человек опрошенных, но при этом опрос производился он-лайн в течении 15 минут.
Вывод - убедительных доказательств положительного ROI пока я не нашел =). Все пока выглядит так, что 2026 год поможет измерить реальную выгоду от ИИ.
Важное уточнение от меня
Мы уже живем в экономике "копилота". ИИ уже драматически меняет рынок труда, time to market решений, драматически снизил время от публикации информации об уязвимости до появления боевых эксплоитов, находятся критические уязвимости в продуктах которых фаззили миллионы часов до этого.
Большая часть бизнеса с использованием информационных технологий уже находится в ситуации FOMO (fear of missing out).
Доказанный положительный ROI будет лишь фактором ускорения инвестиций в ИИ.
Поделитесь своим мнением в комментариях =)
👍1
Forwarded from VP Cybersecurity Brief
https://www.foodandag-isac.org/resources
Относительно редкий отчет по шифровальщикам в сельском хозяйстве, из интересного - список атакующих группировок.
Относительно редкий отчет по шифровальщикам в сельском хозяйстве, из интересного - список атакующих группировок.
Food and Ag-ISAC
RESOURCES | Food and Ag-ISAC
Forwarded from VP Cybersecurity Brief
https://securelist.com/spam-and-phishing-report-2025
Годовой отчет от Лаборатории Касперского по спаму и фишингу.
1. Есть хороший обзор со скриншотами трендовых атак, что возможно использовать при планировании проверок своих пользователей и обновления курсов по security awareness в компании. Тренд прошлого года это фишинг в секторе развлечений - например заманить пользователя на доступ к стриминговой платформе с фильмом до его официальной премьеры.
2. Раздел со статистикой нужно применять акккуратно так как эти показатели это статистика с решений компании. Например, делается вывод о самой массовой стране- источнике спама без учета на каком проценте устройств (доля на рынке) в каких странах это замерялось.
3. Самые популярные домены (TLD) спамеров в 2025: xyz, top, buzz. Причина - низкая стоимость регистрации новых доменов в этих зонах. Тут можно оценить целесообразность к письмам с этих доменов автоматически в тему дописать "возможно спам".
А вендорам поднять спам рейтинг этих доменов.
Годовой отчет от Лаборатории Касперского по спаму и фишингу.
1. Есть хороший обзор со скриншотами трендовых атак, что возможно использовать при планировании проверок своих пользователей и обновления курсов по security awareness в компании. Тренд прошлого года это фишинг в секторе развлечений - например заманить пользователя на доступ к стриминговой платформе с фильмом до его официальной премьеры.
2. Раздел со статистикой нужно применять акккуратно так как эти показатели это статистика с решений компании. Например, делается вывод о самой массовой стране- источнике спама без учета на каком проценте устройств (доля на рынке) в каких странах это замерялось.
3. Самые популярные домены (TLD) спамеров в 2025: xyz, top, buzz. Причина - низкая стоимость регистрации новых доменов в этих зонах. Тут можно оценить целесообразность к письмам с этих доменов автоматически в тему дописать "возможно спам".
А вендорам поднять спам рейтинг этих доменов.
Securelist
Kaspersky spam and phishing report for 2025
The report contains statistics on spam and phishing in 2025, outlining the main trends: phishing and scam QR codes, ClickFix attacks, ChatGPT subnoscription lures and others.
Forwarded from VP Cybersecurity Brief
https://github.com/trailofbits/claude-code-config
Фактически hardening guide для Claude Code AI coding assistant.
Фактически hardening guide для Claude Code AI coding assistant.
GitHub
GitHub - trailofbits/claude-code-config: Opinionated defaults, documentation, and workflows for Claude Code at Trail of Bits
Opinionated defaults, documentation, and workflows for Claude Code at Trail of Bits - trailofbits/claude-code-config
Forwarded from VP Cybersecurity Brief
GitHub
GitHub - QuesmaOrg/BinaryAudit: An open-source benchmark for evaluating AI agents' ability to find backdoors hidden in compiled…
An open-source benchmark for evaluating AI agents' ability to find backdoors hidden in compiled binaries. - QuesmaOrg/BinaryAudit
👍1
Forwarded from DevSecOps Talks
Новый релиз JCSF!
Чудеса случаются, если в них верить! Доказательство этому - новый релиз JCSF! 😊
В этой версии мы:
1. Актуализировали формулировки и скорректировали уровни зрелости для некоторых практик
2. Добавили маппинг и вкладки с автомаппингом на CIS RHEL и CIS Debian
3. Для соответствующих практик указали маппинг на Угрозы Безопасности Информации (УБИ) ФСТЭК
4. Причесали дизайн и внешний вид
В планах:
1. Сделать расчет FTE на задачи ИБ в средах контейнеризации и контейнерной оркестрации
2. Актуализировать связь контролей (вкладка "Контроли") и соответствующих групп практик
Если у вас есть вопросы или непреодолимое желание поучаствовать в развитии Jet Container Security Framework (JCSF) - обязательно пишите нам здесь в комментариях или на почту dso@jet.su
Чудеса случаются, если в них верить! Доказательство этому - новый релиз JCSF! 😊
В этой версии мы:
1. Актуализировали формулировки и скорректировали уровни зрелости для некоторых практик
2. Добавили маппинг и вкладки с автомаппингом на CIS RHEL и CIS Debian
3. Для соответствующих практик указали маппинг на Угрозы Безопасности Информации (УБИ) ФСТЭК
4. Причесали дизайн и внешний вид
В планах:
1. Сделать расчет FTE на задачи ИБ в средах контейнеризации и контейнерной оркестрации
2. Актуализировать связь контролей (вкладка "Контроли") и соответствующих групп практик
Если у вас есть вопросы или непреодолимое желание поучаствовать в развитии Jet Container Security Framework (JCSF) - обязательно пишите нам здесь в комментариях или на почту dso@jet.su
GitHub
Release 13.02.2026 · Jet-Security-Team/Jet-Container-Security-Framework
Список изменений:
Актуализировали формулировки и скорректировали уровни зрелости для некоторых практик
Добавили маппинг и вкладки с автомаппингом на CIS RHEL и CIS Debian
Для соответствующих практ...
Актуализировали формулировки и скорректировали уровни зрелости для некоторых практик
Добавили маппинг и вкладки с автомаппингом на CIS RHEL и CIS Debian
Для соответствующих практ...
👍1
Forwarded from Timur Nizamov
https://habr.com/ru/companies/alfa/articles/994378/
Промпт-инъекции — это не первопричина, а симптом более глубоких архитектурных проблем в безопасности ИИ-агентов. Об этом я написал статью на Хабр
Промпт-инъекции — это не первопричина, а симптом более глубоких архитектурных проблем в безопасности ИИ-агентов. Об этом я написал статью на Хабр
Хабр
Почему промпт-инъекции — это симптом, а не болезнь безопасности ИИ
Что вы представляете, когда кто-то говорит об AI-driven компании? Может быть, как чат-боты улучшают опыт клиентов? Или как сотрудники разворачивают любые модели для своих нужд? А может, как ИИ-агенты...
Forwarded from Dealer.AI
Видение будущего с Agentic AI от Google.
На фоне новости о переходе создателя OpenClaw в OpenAI
подписчик поделился файлом отчета Google Cloud "Тренды AI-агентов 2026".
Отчет описывает пять ключевых сдвигов, которые, по мнению экспертов Google, переопределят роли сотрудников, рабочие процессы и бизнес-ценность в 2026 году, да и вообще в будущем.
Введение: Новая эра – Эра Агентного ИИ. Отчет начинается с тезиса о том, что в 2026 году фокус бизнеса смещается с обсуждения далекого будущего и AGI на практическое внедрение агентного ИИ. Если традиционный ИИ, включая простые чат-боты, отвечает на вопросы, то агентный ИИ понимает цель, строит план и выполняет действия (ReAct парадигма) в различных приложениях для ее достижения, оставаясь под контролем человека.
Это фундаментальный сдвиг от "дополнительного" инструмента к AI-first процессу, который требует изменения корпоративной культуры, найма, мышления.
Пять главных трендов AI-агентов в 2026 году
1. Агенты для каждого сотрудника. Так называемое расширенние с помощью ИИ возможностей личности для достижения пиковой продуктивности.
Новая рабочая модель: Каждый сотрудник становится супервайзером команды специализированных агентов. Его главная задача – не выполнять рутинные задачи, а управлять агентами, используя знание контекста компании (внутренние базы данных, CRM и т.д.).
Новые обязанности сотрудника:
1. Делегирование рутинных задач агентам.
2. Постановка целей для агентов.
3. Определение стратегии и принятие финальных решений.
4. Верификация качества работы агентов. Ключевой принцип: "заземление"– привязка ответов агентов к проверенным фактам и внутренним данным компании, что повышает точность и надежность.
Статистика: 52% руководителей в компаниях, использующих генеративный ИИ, уже внедрили агентов в производство. Среди них 49% используют их в клиентском сервисе, 46% – в маркетинге и безопасности.
2. Агенты для каждого рабочего процесса. Управление бизнесом с помощью заземленных агентных систем.
Здесь речь идет о создании "цифровых сборочных линий" – многоэтапных рабочих процессов, которые управляют целыми бизнес-процессами от начала до конца под наблюдением человека. Ценность заключается в том, чтобы заставить бизнес работать умнее, эффективнее и круглосуточно.
Ключевые протоколы настоящего и будущего:
· A2A (Agent2Agent): Открытый стандарт, позволяющий агентам от разных разработчиков и компаний взаимодействовать друг с другом. Например, агент медиакомпании связывается с агентом ритейлера.
· MCP очевидно.
· AP2 (Agent Payments Protocol). Протокол, который уже есть у Google для агентных платежей, решающий вопросы безопасности и подтверждения полномочий, когда не-человек инициирует транзакцию.
3. Агенты для ваших клиентов
Удовлетворение клиентов с помощью сервиса уровня консьержа. Эра простых чат-ботов с заранее прописанными сценариями уходит. В 2026 году их сменят "консьерж-агенты", которые помнят историю взаимодействия, предпочтения клиента и решают проблемы проактивно, обеспечивая персонализированный опыт один на один. Клиенту больше не нужно каждый раз представляться заново. Агент, благодаря доступу к CRM и данным логистики, сразу знает контекст.
· Старый чат-бот: Введите номер заказа.
· Новый консьерж-агент: «Здравствуйте, Елизавета! Вы по поводу синего свитера, купленного на прошлой неделе? Он уже доставлен. Вы хотите его вернуть или обменять?»
4. Агенты для безопасности.
Переход от оповещений к действиям. Современные центры безопасности страдают от усталости ввиду оповещений – 82% аналитиков обеспокоены, что пропускают реальные угрозы в потоке данных. Агенты могут взять на себя анализ, расследование и даже реагирование на угрозы, действуя как сила-умножитель для команды. Однако и они же являются новым инструментами для атак.
Принцип работы агентного SOC – выстраивание цикла полуавтономных операций. Агенты могут общаться через протокол A2A, использовать общие данные и адаптироваться в реальном времени. Новая роль аналитика безопасности в таком случае:
продолжение ниже👇 👇 👇 👇
На фоне новости о переходе создателя OpenClaw в OpenAI
подписчик поделился файлом отчета Google Cloud "Тренды AI-агентов 2026".
Отчет описывает пять ключевых сдвигов, которые, по мнению экспертов Google, переопределят роли сотрудников, рабочие процессы и бизнес-ценность в 2026 году, да и вообще в будущем.
Введение: Новая эра – Эра Агентного ИИ. Отчет начинается с тезиса о том, что в 2026 году фокус бизнеса смещается с обсуждения далекого будущего и AGI на практическое внедрение агентного ИИ. Если традиционный ИИ, включая простые чат-боты, отвечает на вопросы, то агентный ИИ понимает цель, строит план и выполняет действия (ReAct парадигма) в различных приложениях для ее достижения, оставаясь под контролем человека.
Это фундаментальный сдвиг от "дополнительного" инструмента к AI-first процессу, который требует изменения корпоративной культуры, найма, мышления.
Пять главных трендов AI-агентов в 2026 году
1. Агенты для каждого сотрудника. Так называемое расширенние с помощью ИИ возможностей личности для достижения пиковой продуктивности.
Новая рабочая модель: Каждый сотрудник становится супервайзером команды специализированных агентов. Его главная задача – не выполнять рутинные задачи, а управлять агентами, используя знание контекста компании (внутренние базы данных, CRM и т.д.).
Новые обязанности сотрудника:
1. Делегирование рутинных задач агентам.
2. Постановка целей для агентов.
3. Определение стратегии и принятие финальных решений.
4. Верификация качества работы агентов. Ключевой принцип: "заземление"– привязка ответов агентов к проверенным фактам и внутренним данным компании, что повышает точность и надежность.
Статистика: 52% руководителей в компаниях, использующих генеративный ИИ, уже внедрили агентов в производство. Среди них 49% используют их в клиентском сервисе, 46% – в маркетинге и безопасности.
2. Агенты для каждого рабочего процесса. Управление бизнесом с помощью заземленных агентных систем.
Здесь речь идет о создании "цифровых сборочных линий" – многоэтапных рабочих процессов, которые управляют целыми бизнес-процессами от начала до конца под наблюдением человека. Ценность заключается в том, чтобы заставить бизнес работать умнее, эффективнее и круглосуточно.
Ключевые протоколы настоящего и будущего:
· A2A (Agent2Agent): Открытый стандарт, позволяющий агентам от разных разработчиков и компаний взаимодействовать друг с другом. Например, агент медиакомпании связывается с агентом ритейлера.
· MCP очевидно.
· AP2 (Agent Payments Protocol). Протокол, который уже есть у Google для агентных платежей, решающий вопросы безопасности и подтверждения полномочий, когда не-человек инициирует транзакцию.
3. Агенты для ваших клиентов
Удовлетворение клиентов с помощью сервиса уровня консьержа. Эра простых чат-ботов с заранее прописанными сценариями уходит. В 2026 году их сменят "консьерж-агенты", которые помнят историю взаимодействия, предпочтения клиента и решают проблемы проактивно, обеспечивая персонализированный опыт один на один. Клиенту больше не нужно каждый раз представляться заново. Агент, благодаря доступу к CRM и данным логистики, сразу знает контекст.
· Старый чат-бот: Введите номер заказа.
· Новый консьерж-агент: «Здравствуйте, Елизавета! Вы по поводу синего свитера, купленного на прошлой неделе? Он уже доставлен. Вы хотите его вернуть или обменять?»
4. Агенты для безопасности.
Переход от оповещений к действиям. Современные центры безопасности страдают от усталости ввиду оповещений – 82% аналитиков обеспокоены, что пропускают реальные угрозы в потоке данных. Агенты могут взять на себя анализ, расследование и даже реагирование на угрозы, действуя как сила-умножитель для команды. Однако и они же являются новым инструментами для атак.
Принцип работы агентного SOC – выстраивание цикла полуавтономных операций. Агенты могут общаться через протокол A2A, использовать общие данные и адаптироваться в реальном времени. Новая роль аналитика безопасности в таком случае:
продолжение ниже
Please open Telegram to view this post
VIEW IN TELEGRAM
X (formerly Twitter)
Sam Altman (@sama) on X
Peter Steinberger is joining OpenAI to drive the next generation of personal agents. He is a genius with a lot of amazing ideas about the future of very smart agents interacting with each other to do very useful things for people. We expect this will quickly…