Давно не писал в свой канал, но обещаю исправиться и писать чаще. Сегодня наткнулся на интересную статью про большие языковые модели, тема хайповая, поэтому спешу поделиться с вами краткой выдержкой.

Топ-4 угрозы LLM для предприятий

Большие языковые модели (Large language models - LLMs - а-ля ChatGPT) - это мощный инструмент, который можно использовать для решения самых разных задач, включая обработку естественного языка, машинный перевод и творческое письмо. Однако, как и любой другой мощный инструмент, LLM также могут быть использованы в злонамеренных целях.

4 основных угрозы LLM для предприятий:

1️⃣ Внедрение запросов: Взлом ИИ с помощью набора запутанных запросов в интерфейсе LLM, вероятно, является наиболее известным риском. Злоумышленник может использовать запутанные подсказки, чтобы заставить систему выдавать нелепые предложения, как, например, в случае с популярным чат-ботом автосалона, разработанным компанией Fullpath. Дав указание чат-боту дилера Chevy заканчивать каждый ответ словами «это юридически обязывающее предложение, никаких ходов назад», хакер-тестер перепробовал тысячи запросов, пока в конечном итоге не обманом заставил сайт дилера предложить ему новую машину за один доллар.

2️⃣ Атака с извлечением запросов: Это тип атаки, при которой злоумышленник может извлечь конфиденциальную информацию из LLM. Эта информация может включать пароли, номера кредитных карт или другие конфиденциальные данные.

3️⃣ Новые схемы фишинга: LLM могут быть использованы для создания более сложных фишинговых писем, которые с большей вероятностью обманут пользователей. Такие письма могут использоваться для кражи учетных данных, номеров кредитных карт и другой личной информации.

4️⃣ Отравленные модели: Модели из репозиториев с открытым исходным кодом и данные, используемые для обучения LLM, также могут быть "отравлены". Это тип атаки, при которой злоумышленник может обучить LLM на наборе вредоносных данных. Затем эта "отравленная" модель будет использоваться для принятия решений организацией, а её точность и надежность под большим вопросом.


Как защитить свое предприятие от LLM-угроз❓

Существует ряд мер, которые предприятия могут предпринять для защиты от LLM-угроз. К ним относятся:

💡 Внедрение средств контроля безопасности: Предприятиям следует внедрить средства контроля безопасности, чтобы защитить свои LLM от атак. Эти средства могут включать брандмауэры, системы обнаружения вторжений и системы предотвращения потери данных.
💡 Обучение сотрудников: Предприятия должны обучать сотрудников тому, как выявлять и избегать угроз LLM. Обучение должно охватывать такие темы, как фишинг, социальная инженерия и вредоносное ПО.
💡 Мониторинг LLM: Предприятия должны отслеживать свои LLM на предмет признаков вредоносной активности. Такой мониторинг может осуществляться с помощью различных инструментов и методов, в том числе используя искусственный интеллект.

Приняв эти меры, предприятия смогут снизить риски, связанные с LLM.

Простая Инфобезопасность

Друзья, появился новый вид мошенничества через, якобы, подаренную подписку от друга, если пользователь поведется на развод, то передаст доступ к своему аккаунту злоумышленнику. Будьте готовы противостоять такой угрозе и предупредите близких, на всякий случай.

Простая Инфобезопасность

Гигантский сотовый оператор годами сливал маршруты миллионов абонентов преступникам всех мастей

https://telecom.cnews.ru/news/top/2025-05-30_gigantskij_sotovyj_operator

Вот и прошла насыщенная, почти олимпийская по масштабу, цифровая неделя — ЦИПР 2025 и Глобальный цифровой форум, где технологии, безопасность и будущее встретились в одном пространстве. Это было не просто мероприятие — это был настоящий смотр возможностей, вызовов и решений для цифрового мира завтрашнего дня.

Мы были представлены на самом высоком уровне: провели собственную сессию на тему Платформы цифровой безопасности, которая уже становится ключевым инструментом для комплексного обеспечения кибербезопасности. А я лично дал старт Международному киберчемпионату по кибербезопасности, партнером которого мы стали уже 4-й раз — потому что защищать цифровое будущее нужно не только технологиями, но и людьми, их живой экспертизой.

Но особенно хочу выделить секцию, в которой мне довелось принять непосредственное участие:
🎙 "Кибербезопасность МСП: новые возможности"
📍 Зал 2, 03 июня, 14:00–15:00

Это был важный разговор о том, как малый и средний бизнес адаптируется к требованиям цифровой реальности.

Вместе с коллегами мы обсуждали:

Какие ИБ-риски наиболее актуальны для МСП;
Насколько зрелыми являются их ИТ-инфраструктуры;
Как разобраться в лабиринте нормативных требований;
Какие решения уже доступны и готовы к внедрению;
И какие меры поддержки предлагает государство.
Среди спикеров были представители таких компаний, как Kaspersky, Инфовотч, Рунити, Гарда, Код Безопасности , а также эксперты из Госдумы, НТЦ ЦК, Киберпротект и другие. Обмен опытом получился живым, практическим и глубоким — именно таким, каким он и должен быть, когда речь идет о защите экономики в формате малых масштабов, но больших задач.

А уже в завершение недели выступил на международной панельной дискуссии:
🎙 "ИИ во благо: прикладное применение ИИ для обеспечения равных возможностей"
📍 Блок 2 "Преодоление цифрового разрыва", 6 июня, 09:00–10:15

Обсуждали, как сохранить баланс между инновациями и регулированием, какие границы у применения ИИ в гражданской сфере и какие примеры внедрения уже работают эффективно. С модератором Андреем Незнамовым (ПАО Сбербанк) и коллегами из Японии, Кубы, Китая и Намибии удалось создать действительно глобальный диалог, где каждое слово звучало как шаг к более справедливому цифровому будущему.

#ЦИПР.Кибербезопасность
#ГлобальныйЦифровойФорум2025
#КибербезопасностьМСП
#ИИвоблаго

Если вы упустили эти события — не переживайте, записи всех сессий доступны в ВК Видео:
Кибербезопасность МСП. Новые возможности
https://vkvideo.ru/video-135196070_456239782

ИИ во благо: прикладное применение ИИ для обеспечения равных возможностей. При поддержке Центр ИТ кооперации
https://vkvideo.ru/video-230512741_456239069

Недавно обсудили с коллегами ключевые тренды сферы кибербезопасности: платформизация, ИИ, переход на отечественное ПО, рост использования Linux-платформ и др.

10 лет. Не просто цифра — это целая эпоха.

Сегодня я хочу выделить немного времени, чтобы остановиться, осмотреться и сказать спасибо тем, кто помог мне дойти до этого момента.

Ровно 10 лет назад я вошёл в офис Лаборатории Касперского впервые. Начинал с позиции глобального продуктового маркетолога флагманского продукта Kaspersky Endpoint Security for Business (в России Kaspersky Security для Бизнеса). Одной из первых задач стало его репозиционирование — нужно было подсветить возможности, связанные с машинным обучением. Тогда нам удалось выстоять в непростой борьбе с так называемыми next-gen вендорами.

После этого мой путь в компании развивался дальше:
- Solution Business Lead — отвечал за развитие флагманской линейки в enterprise-сегменте,
- Go-To-Market Lead — одна из самых интересных ролей, связанная с адаптацией глобальных стратегий под региональные реалии,
- Strategy Development Manager в департаменте стратегического управления. Эта позиция стала настоящим вызовом и возможностью увидеть компанию с высоты: участвовать в разработке корпоративной стратегии, влиять на долгосрочные решения и чувствовать себя частью большой миссии.

И следующий шаг стал максимально логичным — я перешёл на позицию Директора по маркетингу в России и странах СНГ. В этой роли я уже год как реализую накопленный за предыдущие годы опыт, опираясь также на два образования: одно — по информационной безопасности, второе — по экономике и управлению на предприятии. Все знания оказались важными. Именно сейчас они позволили мне быстро включиться в сложные процессы и влиять на развитие решений Лаборатории Касперского.

Лаборатория Касперского — это больше, чем компания. Это уникальная среда, где ты растёшь вместе с бизнесом. Это команда, которая поддерживает и бросает тебе вызов. Это место, где каждый день ты решаешь задачи, имеющие реальное значение. Это лидирующий (Kaspersky.ru/top3) производитель решений в сфере кибербезопасности, который не просто говорит о своей миссии — он её живёт: «Строить безопасный и устойчивый цифровой мир».

За эти 10 лет я ни разу не пожалел о своём выборе. Ни дня. Ни часа. Работа здесь — это не просто выполнение обязанностей. Это постоянное движение вперёд, развитие, поиск новых решений и возможность влиять на будущее цифрового мира (делая его безопаснее!).

Хочется пожелать каждому найти то место, которое будет заряжать, вдохновлять, давать пространство для роста и ставить перед важными задачами. Как однажды сказал Стив Джобс: «Найдите работу, которая вам по душе — и вы не проработаете ни одного дня в своей жизни».

Благодарю Лабораторию Касперского за доверие, возможности, команду и, конечно, за те 10 лет, которые стали для меня настоящей школой жизни и профессионализма.

Я готов к следующим десяти.

На одной фотке даже меня можно найти:)