⭐️ Вебинар "Безопасный ИИ: защитите свои данные, модели и репутацию"

В условиях быстрорастущей зависимости бизнеса от искусственного интеллекта (ИИ), защитить информацию и гарантировать надежность моделей становится критически важным. Приглашаем вас на вебинар, посвященный одной из самых актуальных тем безопасности в работе с ИИ — MLSecOps!

Почему эта тема актуальна сейчас?

С каждым днем все больше организаций сталкиваются с необходимостью обеспечить безопасность своих ИИ-решений в связи с ростом использования нейросетей. Так, согласно отчетам экспертов, проблемы кибербезопасности возрастают с ростом использования ИИ. Важно не только разрабатывать ИИ, но и защищать его от атак. Компании обязаны следить за безопасностью своих данных, что подчеркивает важность материально-технической базы для работы с ИИ.

MLSecOps – новое направление, которое сформировалось для защиты больших данных, моделей и репутации. Оно находится на стыке машинного обучения и информационной безопасности, требует комбинированных навыков. В связи с чем, наблюдается стремительный рост на специалистов MLSecOps.

Дата, время: 13 марта, 11:00 - 12:30 МСК.

Спикер: Николай Валерьевич Павлов, архитектор MLSecOps, тренер и разработчик электронных курсов Академии Softline.

Условия участия: бесплатно, необходима предварительная регистрация.

Присоединяйтесь к вебинару, чтобы узнать:
1. Основные тренды в ИТ-сфере, включая пересечение нейронных сетей и информационной безопасности.
2. Актуальность MLSecOps: почему это важно сейчас?
3. Что такое MLSecOps и как этот подход может помочь вашей организации защитить данные и репутацию.
4. Обзор новой учебной программы «Обеспечение безопасности систем машинного обучения. Основы MLSecOps».
5. Каковы карьерные перспективы и возможности, которые открываются для специалистов в области MLSecOps.

Ссылка для регистрации: https://edu.softline.com/news/bezopasnyy-ii-zashchitite-svoi-dannye-modeli-i-reputatsiyu_/?ysclid=m7qku27gac119007897

Архитектор MLSecOps
Николай Павлов

⭐️ Вторая и заключительная часть моего вебинара "Основы информационной безопасности"

Привет, мои самые предусмотрительные и невероятно умные Звезды IT! По вашим просьбам мы оперативно ускорились и записали вторую часть вебинара "Основы информационной безопасности". Приятного аппетита!

Ссылка: https://rutube.ru/video/6394dd126ee4da92401794653865061c

Архитектор MLSecOps
Николай Павлов

⭐️ Четыре современных профессии в сфере обеспечения безопасности ИИ (MLSecOps)

1. Архитектор безопасности

Архитектор безопасности — специалист, который фокусируется на общей картине того, как организация защищает себя. Поскольку автоматизация и ИИ приводят к появлению все более сложных угроз, эти опытные работники необходимы для совершенствования существующих систем и практик.

Для этой роли необходима отточенная техническая экспертиза, но она также требует отличных «мягких» навыков. «Архитекторы безопасности работают в тесном контакте с бизнес-руководителями и заинтересованными сторонами, чтобы согласовать стратегические цели и учесть потребности каждого. Кроме того, ожидается, что они всегда будут в курсе последних угроз.

Продолжение: https://vk.com/wall-210601538_1538

⭐️ Нейронка в угоне: как атакуют и защищают модели искусственного интеллекта

Необходимость в обеспечении безопасности компаний при интеграции моделей искусственного интеллекта в бизнес-процессы и применение ИИ киберпреступниками уже не новинка для рынка IT. В то же время не так много внимания уделяется защите самих моделей ИИ от различных атак, хотя всего месяц назад Microsoft и OpenAI публично заявили, что подозревают китайскую DeepSeek в несанкционированном доступе к своим массивам данных. О типологии атак на ИИ-модели, потенциальных рисках для бизнеса и месте науки на рынке ИБ рассказывает кандидат физико-математических наук, руководитель научной группы «Доверенные и безопасные интеллектуальные системы» Института AIRI, старший научный сотрудник МТУСИ Олег Рогов

Арсенал мечей

Атака на модели ИИ — это выведение нейросети из штатного режима работы, для которого она предназначалась в процессе создания. Злоумышленники используют недостаточную подготовку данных или определенные способы обучения нейронных сетей в качестве уязвимостей. Существует два основных режима атак. Whitebox-атака используется, когда злоумышленник знает модель, параметры и архитектуру (пример — физический доступ к серверу с продуктом и/или исходному коду и самой готовой модели). Такие атаки чаще находятся в плоскости экспертизы классической информационной безопасности организаций и заключаются в обеспечении защиты контура предприятия, потому что требуют либо прямого доступа к инфраструктуре компании, либо к конфиденциальной информации.

Продолжение: https://vk.com/wall-210601538_1539

⭐️ Особенности MLSecOps при внедрении и интеграции ИИ в финансовом секторе

Искусственный интеллект (AI) становится важным инструментом в финансовом секторе, где компании стремятся модернизировать устаревшие системы и улучшить анализ данных. Специалисты отмечают, что, несмотря на высокий интерес к AI, важно, чтобы организации были готовы к его внедрению.

По словам экспертов, многие компании хотят интегрировать AI, не осознавая всех связанных с этим сложностей. AI может быть мощным инструментом, но его эффективность зависит от качества данных. Если данные неструктурированы или неточны, процессы, основанные на AI, могут оказаться неэффективными. Поэтому важно, чтобы компании имели чистые данные и четкие цели перед тем, как спешить с внедрением AI.

Продолжение: https://vk.com/wall-210601538_1542

⭐️ Тезисы из презентации "Большие языковые модели генеративного ИИ" (Февраль 2025)

Этот документ Института Изучения Мировых Рынков посвящен текущему состоянию и тенденциям развития больших языковых моделей (LLM). В нём рассматриваются вопросы финансирования, технологических достижений, а также стратегии развития в США и Китае.

1. Основные положения:

Рост инвестиций в ИИ: В 2024 году наблюдался значительный рост венчурных инвестиций в сферу искусственного интеллекта, особенно в разработку LLM. Доля компаний, специализирующихся на ИИ, в общем объеме венчурных инвестиций в четвертом квартале 2024 года достигла 50,8%, что почти вдвое превышает показатель 2023 года. Общий объем финансирования достиг 131,5 млрд долларов США, что на 52% больше, чем в предыдущем году.

Продолжение: https://vk.com/wall-210601538_1543

⭐️ ЕВРАЗ НТМК ввел в работу робогрузовики без водителей

ЕВРАЗ НТМК внедрил автономные электрогрузовики Evocargo для перевозки проб металла и темплетов стальных заготовок по территории комбината. Две машины ездят без водителей по заданным маршрутам общей протяженностью 4 километра. Об этом CNews сообщили представители компании «ЭвоКарго».

Робогрузовики произведены российской компанией «ЭвоКарго». Машины оснащены многокомпонентной системой восприятия и навигации. Роль «глаз» выполняют лидары, сонары и камеры, а на основе многочисленных сенсорных и навигационных данных вычислительный блок, «мозг» грузовика, координирует его движение и мгновенно реагирует на изменения на дороге. Режим работы может быть круглосуточным, исключая перерыв на подзарядку, во время которой происходит погрузка или выгрузка продукции.

Продолжение: https://vk.com/wall-210601538_1545

⭐️ Спрос на управление уязвимостями (в том числе MLSecOps) в России вырос на 304% в 2024 году

По итогам 2024 года рынок информационной безопасности в России продолжил активный рост. Наибольший спрос наблюдался в области управления уязвимостями (+304%), антифрод-решений (+172%), сетевой безопасности (+153%) и экспертных сервисов (+152%).

Аналитики «Инфосистемы Джет» связывают всплеск интереса к управлению уязвимостями с потребностью организаций обеспечивать реальную защищенность инфраструктуры, включая устранение программных уязвимостей и настройку безопасных конфигураций (харденинг).

Рост спроса на антифрод-решения объясняется расширением их применения за пределами финансового сектора. Компании из других отраслей начали внедрять такие системы для борьбы с мошенничеством.

Продолжение: https://vk.com/wall-210601538_1546

⭐️ Дата-сайентисты и брокеры стали самыми высокооплачиваемыми специалистами

На начало 2025 года самыми высокооплачиваемыми профессиями на российском рынке труда являются специалисты в области ИТ и брокеры. Об этом стало известно из исследования аналитиков платформы hh.

Так, по данным экспертов, наивысшие зарплаты получают дата-сайентисты и DevOps-инженеры в сфере ИТ, чьи доходы составляют в среднем 250 тысяч рублей (-6% за год) и 235 тысяч рублей (-7%) в месяц соответственно. На третьем месте находятся брокеры с зарплатой в среднем 200 тысяч рублей (+38%).

В список высокооплачиваемых профессий также вошли агенты по недвижимости с доходом 174 тысяч рублей (+26%) и геологи с геодезистами, зарабатывающие 150 тысяч рублей (+23% и +13% соответственно). Далее следуют программисты с зарплатой 148,2 тысяч рублей (+8%), прорабы — 144,5 тысяч рублей (+20%) и курьеры — 138,3 тысяч рублей (+25%).

Продолжение: https://vk.com/wall-210601538_1549

⭐️ Китай установил новый рекорд в области квантовых вычислений, превзойдя показатели Google в миллион раз

Процессор «Цзючунчжи-3», разработанный в Китае, продемонстрировал значительный прогресс в области случайной выборки цепей — метода, который обычно используется для проверки, достиг ли квантовый компьютер превосходства над классическими. Скорость работы прототипа в миллион раз превысила прошлогодние результаты квантового процессора Google Sycamore!

Квантовое превосходство — это способность квантового компьютера решать задачи, которые невозможно выполнить на классических машинах. В 2019 году процессор Sycamore от Google с 53 кубитами смог выполнить задачу случайной выборки цепей всего за 200 секунд. Чтобы смоделировать эту задачу на самом быстром суперкомпьютере того времени, потребовалось бы около 10 000 лет.

Продолжение: https://vk.com/wall-210601538_1550

⭐️ Более 40% работодателей намерены в 2025 году повысить зарплаты всем сотрудникам

2024 год стал непростым для многих, но большинство компаний все же увеличили зарплаты. 61% работодателей повысили оклады, 35% оставили их на прежнем уровне, а 4% были вынуждены сократить выплаты.

По данным исследования Русской Школы Управления (РШУ) опросивших представителей свыше 1000 компаний из разных областей, бизнес настроен на повышение зарплат, однако не все сотрудники смогут на это рассчитывать. Так, 44% компаний планируют повысить зарплаты всем сотрудникам, в то время как остальные будут увеличивать их только для определенных категорий: 24% — для специалистов; — 20% — для рабочих; — 9% — для среднего менеджмента; — 6% — для топ-менеджмента. 21% работодателей будут повышать зарплаты выборочно, а 17% не планируют никаких увеличений.

Продолжение: https://vk.com/wall-210601538_1551

⭐️ Милые девушки, дорогие Звездочки IT и покорительницы вершин MLSecOps!

Поздравляю вас с 8 Марта! Пусть в жизни не будет ошибок ни в жизни, ни в коде, а все проблемы решаются моментально!

Вы – настоящие легенды IT, которые не только разбираются в тонкостях машинного обучения, но и защищают его от всех напастей с помощью техник информационной безопасности. Ваша высокая экспертиза – это надежный щит для России, а ваши аналитические способности – меч, которыми вы сражаетесь за безопасное и светлое будущее!

Желаю вам в этот радостный день весеннего тепла, ярких улыбок, душистых цветов и заслуженного отдыха от бесконечного потока событий! И все же продолжаем учиться каждый день, и даже сегодня! Пусть ваши родные и близкие люди берут с вас пример!

С праздником! Вы – лучшие!

Архитектор MLSecOps
Николай Павлов

⭐️ В новостных лентах регулярно появляются новости про сокращения IT специалистов.

Очевидно, что рынок для этого направления трансформируется. Каким изменениям подвергнется одна из самых востребованных в последнее время профессий?

В январе 2025 эксперты «Хабр.Карьеры» провели анализ, который показал, что в 2024 году крупнейшие компании в сфере IT и телекоммуникаций, сократили количество размещенных вакансий на 15–18% по сравнению с 2023 годом. При этом больше всего сокращений было среди разработчиков. В то же время самый высокий рост спроса оказался на специалистов по искусственному интеллекту (ИИ): количество размещённых вакансий в 2024 году увеличилось на 43% (!) по сравнению с 2023 годом.

Этот тренд подтверждает и мнение экспертов.

Продолжение: https://vk.com/wall-210601538_1553

⭐️ Исследование рынка аналитиков в 2024 году

Привет, мои драгоценные Звезды IT!

Выходные, и как всегда я нашел вам что перекусить.
Пробуем исследование рынка аналитиков данных от newhr за октябрь 2024 года.

Агентство NEWHR опросило 1293 аналитиков 6 специализаций.
Они рассказали, где живут, на какие компании работают, на какие рынки ориентируются, как ищут работу и к чему стремятся. А также — сколько зарабатывают, и как изменилась их зарплата.

1. Тотальное большинство (92%) занимаются автоматизацией. Уверен, это значение еще больше увеличится в 2025 году.

2. Большинство не стремятся к релокации и желают остаться в России.

3. Большинство работают удаленно.

4. Чаще всего рост зарплаты связан со сменой компании или изменением грейда.

5. Средняя зарплата Middle Product Analyst составляет 300 тысяч в месяц, у Senior - 400 тысяч в месяц.

6. В TOP-3 наиболее авторитетных лидеров мнений в аналитике вошли ожидаемо Анатолий Карпов, Валерий Бабушкин и Роман Бунин. Примечательно, что все трое преподают в Karpov Kourses.

7. TOP-5 компаний для трудоустройства: Авито, Яндекс, Авиасейлс, Т-банк и Озон.

Ссылка: https://newhr.org/data/research-analysts-2024

И приятного аппетита!

Архитектор MLSecOps
Николай Павлов

⭐️ «Сбер» предупредил о резком росте мошеннических действий с использованием ИИ к середине 2025 года

Ожидается применение злоумышленниками ИИ для создания правдоподобных дипфейков, имитации голосов и осуществления многоязычных телефонных звонков.

Особую опасность представляет преодоление языковых барьеров в телефонном мошенничестве благодаря технологиям генерации речи.

Злоумышленники смогут осуществлять звонки на любом языке, что значительно расширит географию их преступной деятельности.

Согласно данным «Сбера», большая часть мошеннических звонков совершается через мессенджеры, а не через традиционную телефонную связь.

Центральный банк России также сообщает о значительных хищениях денежных средств у клиентов банков в 2024 году с использованием методов социальной инженерии.

Несмотря на усилия по борьбе с мошенничеством, преступники продолжают активно использовать мессенджеры для распространения вредоносного ПО и поддельных документов.

⭐️ Нейросети уже способны красть персональные данные, заявил эксперт

Злоумышленники могут использовать нейросети, которыми пользуются компании, для кражи персональных и корпоративных данных, а также взлома систем безопасности, поэтому им необходимо проводить аудит информационной безопасности, рассказал РИА Новости директор по искусственному интеллекту и цифровым продуктам "Билайна" Константин Романов.

"Нейросеть потенциально может использоваться для кражи персональных и корпоративных данных. Она может обрабатывать огромные объемы данных и извлекать из них информацию, в том числе и конфиденциальную. Существует возможность использования нейросетей для взлома систем безопасности и доступа к защищенным данным", - заявил он.

Продолжение: https://vk.com/wall-210601538_1557

⭐️ Утечки информации через AI-модели: как извлечь конфиденциальные данные из нейронных сетей?

В современной цифровой экосистеме появилась новая неотъемлемая часть – широкое множество ИИ-моделей. Поразительная способность «запоминать» данные, на которых обучалась модель, не только повышает точность работы модели, но и существенно повышает риск утечки конфиденциальной информации. Например, множество исследований и экспериментов показывало, что GPT-4 может выводить фрагменты персональных данных из обучающего набора при определенных целевых запросах! Также были продемонстрированы возможности восстановления лиц пациентов по весам нейронной сети, обученной на медицинских снимках!

Подобные аспекты усугубляются тем, что для достижения действительно высоких результатов моделям ИИ требуется обрабатывать огромные наборы данных, включающие, в том числе различную чувствительную информацию, например, сканы паспортов или финансовые транзакции. При этом подавляющее большинство разработчиков не могут проверить, что именно было запомнено моделью ИИ.

Продолжение: https://vk.com/wall-210601538_1558

⭐️ Новая китайская генеративная нейронная сеть Wan 2.1

Создатели китайских нейронок Qwen выпустили мощный генератор видео Wan 2.1. И теперь он доступен прямо в браузере.

Есть функция «Улучшить промт», можно добавлять звуковые эффекты и включать режим вдохновения — нейронка сама будет доводить результат до идеала. На старте дают 100 токенов (хватит на 10 роликов от лучшей модели).

Ссылка: https://wan.video/

Архитектор MLSecOps
Николай Павлов

⭐️ Порог входа в IT сильно вырастет к 2030 году

К 2030 году более 90% разработчиков начнут использовать ИИ для написания и проверки кода — прогноз от первого вице-президента по технологиям МТС Павла Воронина.

Сейчас в компании ~8% кодов создается с помощью искусственного интеллекта. Через два года эта доля вырастет еще в три раза, до 25%.

Тенденция вполне логичная — нейросетям можно делегировать рутину, чтобы заниматься более сложными и креативными задачами. Полностью заменить айтишников ИИ вряд ли сможет в ближайшее время. Однако порог входа в IT-сферу продолжит расти.

NN

⭐️ Senior MLSecOps Engineer в Т-банк

Требуемый опыт: Более 6 лет
График: Полный день
Тип занятости: Полная занятость

Мы ищем опытного MLSecOps Engineer, который присоединится к нашей команде для обеспечения безопасности моделей машинного обучения и инфраструктуры.

Ваша основная задача будет заключаться в разработке и внедрении безопасных процессов и практик для разработки, развертывания и мониторинга моделей машинного обучения, а также в защите наших данных и моделей от различных угроз.

Вы будете работать в тесном сотрудничестве с нашими AI-командами, ML-платформой, DevSecOps для создания надежной и безопасной ML-инфраструктуры.

Продолжение: https://vk.com/wall-210601538_1561