⭐️ Вузы оторваны от реалий IT. Спрос на защиту LLM-систем (LLMSecOPs) стремительно растет

В Индустриальном центре компетенций (ИЦК) «Финансы» (в него входит большинство системно значимых банков и финансовых организаций РФ) обратились в Минобрнауки РФ с просьбой скорректировать программы подготовки IT‑специалистов под нужды финансовых организаций из‑за оторванности текущего уровня образования от реальных потребностей рынка.

В ИЦК «Финансы» пояснили, что «сделали запрос в Минобрнауки, для того чтобы была проведена корректировка программ профессионального обучения для дальнейшего обсуждения с министерством и понимания тех потребностей, которые могут быть закрыты учебными заведениями».

Продолжение: https://vk.com/wall-210601538_1519

⭐️ Зарубежные банки начали отказываться от сотрудников в пользу ИИ-инструментов

Сингапурский банк DBS Group объявил о планах сократить около 4 тысяч внештатных и временных сотрудников в течение следующих трех лет, заменив их на решения на основе искусственного интеллекта.

О грядущих изменениях сообщил генеральный директор банка Пиюш Гупта. В настоящее время штат крупнейшего банка Юго-Восточной Азии составляет около 41 тысячи человек, включая 8–9 тысяч внештатных и временных работников. В банке уточнили, что сокращения не затронут постоянных сотрудников.

При этом, по словам представителей кадровой службы DBS, сокращение численности сотрудников произойдет, в том числе, за счет «естественной текучести кадров», поскольку временные и контрактные роли будут завершены в течение следующих нескольких лет.

Продолжение: https://vk.com/wall-210601538_1521

⭐️ Контрофферы стали популярным инструментом для удержания сотрудников

На треть чаще работодатели стали использовать контрофферы для удержания сотрудников – сейчас кандидаты выбирают предложение от своего работодателя почти на треть чаще по сравнению с прошлым годом.

Доля отказов от нового трудоустройства из-за получения встречного предложения от текущего работодателя составила 1,9%, что на 0,5 процентного пункта ниже, чем в 2023 году. Однако в абсолютных цифрах количество случаев, когда кандидаты выбирали предложение от своего работодателя, увеличилось на 28% по сравнению с прошлым годом. Этот тренд был выявлен аналитиками облачной CRM-системы для рекрутинга Talantix, входящей в HR-экосистему hh.

Продолжение: https://vk.com/wall-210601538_1522

⭐️ MLSecOps - Безопасность ИИ

Привет, мои дорогие и непревзойденные Звезды IT!
Нашел интересную презентацию ФинТех-ассоциации от сентября прошлого года по MLSecOps. Делюсь с вами наиболее ценными и вкусными слайдами.

Продолжение: https://vk.com/wall-210601538_1523

⭐️ Спрос на специалистов по LLM Security (LLMSecOps) в 2025 году вырастет на четверть

Повсеместное внедрение искусственного интеллекта в бизнес-процессы существенно изменит картинку на рынке труда, уверены эксперты ГК Swordfish Security.

Уже сейчас спрос на услуги кибербезопасности в области искусственного интеллекта растет. По подсчетам экспертов компании, в первый месяц 2025 более трети запросов от клиентов включали запросы на LLM Security.

Специалисты в области LLM Security – одни из самых редких и высокооплачиваемых на рынке ИТ, подсчитали аналитики платформы hh. Так в 2024 вакансий разработчиков, связанных с кибербезопасностью в области искусственного интеллекта, аналитики насчитали 878, тогда как в 2023 их было всего 154. Спрос на функционал, связанный с работой в сфере LLM Security за год вырос почти в 5,5 раз. Примерно та же картина с вакансиями аналитиков в области безопасности ИИ: по данным hh, их стало больше в 5 раз (555 в 2024 против 107 в 2023). При этом, что касается разработчиков в области ИИ в целом, их востребованность даже немного снизилась, в 2024 году было открыто 483 вакансии, на 14% меньше, чем в 2023. А вот тестировщики с функционалом в области ИИ на рынке по-прежнему очень нужны, по данным hh, количество вакансий для них выросло почти в три раза, со 116 в 2023 до 346 в 2024. В 2024 году самая высокая предлагаемая зарплата в вакансиях, связанных с ИИ, была на уровне 10 тыс. долларов.

Продолжение: https://vk.com/wall-210601538_1526

⭐️ С нашим праздником, Звезды IT!

28 февраля в день изобретения сетевого кабеля во всем мире отмечают замечательный праздник - День ИТ-специалиста, объединяющий всех, кто трудится в сфере высоких технологий!

Благодаря нашим с вами усилиям мир становится всё более цифровым, эффективным, автоматизированным и высокотехнологичным! Создаются новые возможности, появляются роботы, упрощается наша жизнь.

От всего сердца поздравляю каждого из вас с профессиональным праздником, мои легендарные Звезды бескрайнего неба IT! Желаю всегда учиться, минимум 2-3 часа в день! Никогда не терять вдохновения, веры в себя, продолжать непрерывно развиваться и покорять новые вершины! Будьте примерами для окружающих! И пусть ваш светлый путь принесет успех и благополучие вам и вашим Здоровым Семьям!

С теплом,
Архитектор MLSecOps
Николай Павлов

⭐️ Родители рассказали, в каких профессиях мечтают видеть своих детей

Россияне чаще всего мечтают видеть своих детей айтишниками, врачами и инженерами. Каждый второй родитель хотел бы, чтобы его ребенок открыл собственный бизнес.

Согласно исследованию, проведенному Группой Ренессанс Страхование и платформой hh, большинство родителей, как мужчин, так и женщин, предпочли бы, чтобы их дети выбрали ИТ-специальности (31%), медицинские профессии (21%) и инженерные специальности (15%). Четвертое место заняли профессии в области дизайна (12%), а пятую позицию разделили юридические и архитектурные специальности (по 11%). Десятку желаемых профессий замыкает специалист по гейм-девелопменту (9%).

Интересно, что среди наименее перспективных профессий родители выделили блогера (28%), автомеханика (17%), воспитателя/няню (16%), актера (15%), агента по недвижимости (13%), мастера ногтевого сервиса (12%), бухгалтера (11%), продавца-консультанта (10%) и учителя (8%).

Продолжение: https://vk.com/wall-210601538_1531

⭐️ Пять ключевых направлений развития ИИ

На начало 2025 года уже более половины финансовых организаций используют ИИ для целого спектра задач, от кредитных конвейеров до удаленной идентификации и антифрод-систем. Развитие технологий ИИ сегодня идет по пяти ключевым направлениям.

Первое направление — оптимизация существующих и формирование новых архитектур ИИ-решений. Технологии ИИ развиваются учеными всего мира. Недавно генеративно-состязательные сети (GAN) использовались для генерации картинок. Но это давало страшные дефекты — торчащие из ниоткуда клочки волос, белые зрачки и другие недочеты, которые не улавливала сеть-дискриминатор. После этого была применена архитектура stable diffusion, которая решила эти проблемы, но имела другие недостатки: например неправильное количество пальцев на руках из-за недостаточной выборки обучающих данных.

Продолжение: https://vk.com/wall-210601538_1532

⭐️ Вебинар "Основы информационной безопасности" со мной. Часть 1

Привет, мои дорогие и самые безопасные Звезды IT!

Наступила суббота! И сегодня я провел первую часть благотворительного вебинара "Основы информационной безопасности" для организации "Вера, Надежда, Любовь" в Нижнем Тагиле.

В этой части вы узнаете:
- Основные тренды сферы ИБ
- Статистику ИБ
- Базовые термины и классификацию ИБ
- Практические методы и советы по защите от киберугроз
- Многое другое

Видео уже доступно, переходите по ссылке. Всем приятного аппетита!

Ссылка на вебинар:
https://rutube.ru/video/private/72c184edf7cfddc8ffa6c8eda8fd7136/?p=zz3mDYHl-17aK_TEQxvOPw

Архитектор MLSecOps
Николай Павлов

⭐️ Криптоджекинг (Cryptojacking) в MLSecOps

I. Что такое криптоджекинг?

Криптоджекинг — это схема использования чужих устройств без ведома их владельцев для скрытого майнинга криптовалют. При этом используется вредоносный код, который запускает вычислительный процесс в фоновом режиме.

Существует три основных вида криптоджекинга:

1. С помощью вредоносных программ (вирусов, троянов), загруженных на устройство пользователя. Они объединяют компьютеры в ботнет, через который могут поступать команды на добычу криптовалют, или автономно запускают сценарий майнинга при включении устройства.

2. Через веб-браузер с помощью вредоносного скрипта JavaScript, встроенного в веб-страницы. Мощности пользователя буквально «захватываются» при захождении на сайт и порой продолжают использоваться, даже когда тот закрывает страницу.

Продолжение: https://vk.com/wall-210601538_1533

⭐️ Вебинар "Безопасный ИИ: защитите свои данные, модели и репутацию"

В условиях быстрорастущей зависимости бизнеса от искусственного интеллекта (ИИ), защитить информацию и гарантировать надежность моделей становится критически важным. Приглашаем вас на вебинар, посвященный одной из самых актуальных тем безопасности в работе с ИИ — MLSecOps!

Почему эта тема актуальна сейчас?

С каждым днем все больше организаций сталкиваются с необходимостью обеспечить безопасность своих ИИ-решений в связи с ростом использования нейросетей. Так, согласно отчетам экспертов, проблемы кибербезопасности возрастают с ростом использования ИИ. Важно не только разрабатывать ИИ, но и защищать его от атак. Компании обязаны следить за безопасностью своих данных, что подчеркивает важность материально-технической базы для работы с ИИ.

MLSecOps – новое направление, которое сформировалось для защиты больших данных, моделей и репутации. Оно находится на стыке машинного обучения и информационной безопасности, требует комбинированных навыков. В связи с чем, наблюдается стремительный рост на специалистов MLSecOps.

Дата, время: 13 марта, 11:00 - 12:30 МСК.

Спикер: Николай Валерьевич Павлов, архитектор MLSecOps, тренер и разработчик электронных курсов Академии Softline.

Условия участия: бесплатно, необходима предварительная регистрация.

Присоединяйтесь к вебинару, чтобы узнать:
1. Основные тренды в ИТ-сфере, включая пересечение нейронных сетей и информационной безопасности.
2. Актуальность MLSecOps: почему это важно сейчас?
3. Что такое MLSecOps и как этот подход может помочь вашей организации защитить данные и репутацию.
4. Обзор новой учебной программы «Обеспечение безопасности систем машинного обучения. Основы MLSecOps».
5. Каковы карьерные перспективы и возможности, которые открываются для специалистов в области MLSecOps.

Ссылка для регистрации: https://edu.softline.com/news/bezopasnyy-ii-zashchitite-svoi-dannye-modeli-i-reputatsiyu_/?ysclid=m7qku27gac119007897

Архитектор MLSecOps
Николай Павлов

⭐️ Вторая и заключительная часть моего вебинара "Основы информационной безопасности"

Привет, мои самые предусмотрительные и невероятно умные Звезды IT! По вашим просьбам мы оперативно ускорились и записали вторую часть вебинара "Основы информационной безопасности". Приятного аппетита!

Ссылка: https://rutube.ru/video/6394dd126ee4da92401794653865061c

Архитектор MLSecOps
Николай Павлов

⭐️ Четыре современных профессии в сфере обеспечения безопасности ИИ (MLSecOps)

1. Архитектор безопасности

Архитектор безопасности — специалист, который фокусируется на общей картине того, как организация защищает себя. Поскольку автоматизация и ИИ приводят к появлению все более сложных угроз, эти опытные работники необходимы для совершенствования существующих систем и практик.

Для этой роли необходима отточенная техническая экспертиза, но она также требует отличных «мягких» навыков. «Архитекторы безопасности работают в тесном контакте с бизнес-руководителями и заинтересованными сторонами, чтобы согласовать стратегические цели и учесть потребности каждого. Кроме того, ожидается, что они всегда будут в курсе последних угроз.

Продолжение: https://vk.com/wall-210601538_1538

⭐️ Нейронка в угоне: как атакуют и защищают модели искусственного интеллекта

Необходимость в обеспечении безопасности компаний при интеграции моделей искусственного интеллекта в бизнес-процессы и применение ИИ киберпреступниками уже не новинка для рынка IT. В то же время не так много внимания уделяется защите самих моделей ИИ от различных атак, хотя всего месяц назад Microsoft и OpenAI публично заявили, что подозревают китайскую DeepSeek в несанкционированном доступе к своим массивам данных. О типологии атак на ИИ-модели, потенциальных рисках для бизнеса и месте науки на рынке ИБ рассказывает кандидат физико-математических наук, руководитель научной группы «Доверенные и безопасные интеллектуальные системы» Института AIRI, старший научный сотрудник МТУСИ Олег Рогов

Арсенал мечей

Атака на модели ИИ — это выведение нейросети из штатного режима работы, для которого она предназначалась в процессе создания. Злоумышленники используют недостаточную подготовку данных или определенные способы обучения нейронных сетей в качестве уязвимостей. Существует два основных режима атак. Whitebox-атака используется, когда злоумышленник знает модель, параметры и архитектуру (пример — физический доступ к серверу с продуктом и/или исходному коду и самой готовой модели). Такие атаки чаще находятся в плоскости экспертизы классической информационной безопасности организаций и заключаются в обеспечении защиты контура предприятия, потому что требуют либо прямого доступа к инфраструктуре компании, либо к конфиденциальной информации.

Продолжение: https://vk.com/wall-210601538_1539

⭐️ Особенности MLSecOps при внедрении и интеграции ИИ в финансовом секторе

Искусственный интеллект (AI) становится важным инструментом в финансовом секторе, где компании стремятся модернизировать устаревшие системы и улучшить анализ данных. Специалисты отмечают, что, несмотря на высокий интерес к AI, важно, чтобы организации были готовы к его внедрению.

По словам экспертов, многие компании хотят интегрировать AI, не осознавая всех связанных с этим сложностей. AI может быть мощным инструментом, но его эффективность зависит от качества данных. Если данные неструктурированы или неточны, процессы, основанные на AI, могут оказаться неэффективными. Поэтому важно, чтобы компании имели чистые данные и четкие цели перед тем, как спешить с внедрением AI.

Продолжение: https://vk.com/wall-210601538_1542

⭐️ Тезисы из презентации "Большие языковые модели генеративного ИИ" (Февраль 2025)

Этот документ Института Изучения Мировых Рынков посвящен текущему состоянию и тенденциям развития больших языковых моделей (LLM). В нём рассматриваются вопросы финансирования, технологических достижений, а также стратегии развития в США и Китае.

1. Основные положения:

Рост инвестиций в ИИ: В 2024 году наблюдался значительный рост венчурных инвестиций в сферу искусственного интеллекта, особенно в разработку LLM. Доля компаний, специализирующихся на ИИ, в общем объеме венчурных инвестиций в четвертом квартале 2024 года достигла 50,8%, что почти вдвое превышает показатель 2023 года. Общий объем финансирования достиг 131,5 млрд долларов США, что на 52% больше, чем в предыдущем году.

Продолжение: https://vk.com/wall-210601538_1543

⭐️ ЕВРАЗ НТМК ввел в работу робогрузовики без водителей

ЕВРАЗ НТМК внедрил автономные электрогрузовики Evocargo для перевозки проб металла и темплетов стальных заготовок по территории комбината. Две машины ездят без водителей по заданным маршрутам общей протяженностью 4 километра. Об этом CNews сообщили представители компании «ЭвоКарго».

Робогрузовики произведены российской компанией «ЭвоКарго». Машины оснащены многокомпонентной системой восприятия и навигации. Роль «глаз» выполняют лидары, сонары и камеры, а на основе многочисленных сенсорных и навигационных данных вычислительный блок, «мозг» грузовика, координирует его движение и мгновенно реагирует на изменения на дороге. Режим работы может быть круглосуточным, исключая перерыв на подзарядку, во время которой происходит погрузка или выгрузка продукции.

Продолжение: https://vk.com/wall-210601538_1545

⭐️ Спрос на управление уязвимостями (в том числе MLSecOps) в России вырос на 304% в 2024 году

По итогам 2024 года рынок информационной безопасности в России продолжил активный рост. Наибольший спрос наблюдался в области управления уязвимостями (+304%), антифрод-решений (+172%), сетевой безопасности (+153%) и экспертных сервисов (+152%).

Аналитики «Инфосистемы Джет» связывают всплеск интереса к управлению уязвимостями с потребностью организаций обеспечивать реальную защищенность инфраструктуры, включая устранение программных уязвимостей и настройку безопасных конфигураций (харденинг).

Рост спроса на антифрод-решения объясняется расширением их применения за пределами финансового сектора. Компании из других отраслей начали внедрять такие системы для борьбы с мошенничеством.

Продолжение: https://vk.com/wall-210601538_1546

⭐️ Дата-сайентисты и брокеры стали самыми высокооплачиваемыми специалистами

На начало 2025 года самыми высокооплачиваемыми профессиями на российском рынке труда являются специалисты в области ИТ и брокеры. Об этом стало известно из исследования аналитиков платформы hh.

Так, по данным экспертов, наивысшие зарплаты получают дата-сайентисты и DevOps-инженеры в сфере ИТ, чьи доходы составляют в среднем 250 тысяч рублей (-6% за год) и 235 тысяч рублей (-7%) в месяц соответственно. На третьем месте находятся брокеры с зарплатой в среднем 200 тысяч рублей (+38%).

В список высокооплачиваемых профессий также вошли агенты по недвижимости с доходом 174 тысяч рублей (+26%) и геологи с геодезистами, зарабатывающие 150 тысяч рублей (+23% и +13% соответственно). Далее следуют программисты с зарплатой 148,2 тысяч рублей (+8%), прорабы — 144,5 тысяч рублей (+20%) и курьеры — 138,3 тысяч рублей (+25%).

Продолжение: https://vk.com/wall-210601538_1549

⭐️ Китай установил новый рекорд в области квантовых вычислений, превзойдя показатели Google в миллион раз

Процессор «Цзючунчжи-3», разработанный в Китае, продемонстрировал значительный прогресс в области случайной выборки цепей — метода, который обычно используется для проверки, достиг ли квантовый компьютер превосходства над классическими. Скорость работы прототипа в миллион раз превысила прошлогодние результаты квантового процессора Google Sycamore!

Квантовое превосходство — это способность квантового компьютера решать задачи, которые невозможно выполнить на классических машинах. В 2019 году процессор Sycamore от Google с 53 кубитами смог выполнить задачу случайной выборки цепей всего за 200 секунд. Чтобы смоделировать эту задачу на самом быстром суперкомпьютере того времени, потребовалось бы около 10 000 лет.

Продолжение: https://vk.com/wall-210601538_1550