⭐️ Особенности MLSecOps при внедрении и интеграции ИИ в финансовом секторе

Искусственный интеллект (AI) становится важным инструментом в финансовом секторе, где компании стремятся модернизировать устаревшие системы и улучшить анализ данных. Специалисты отмечают, что, несмотря на высокий интерес к AI, важно, чтобы организации были готовы к его внедрению.

По словам экспертов, многие компании хотят интегрировать AI, не осознавая всех связанных с этим сложностей. AI может быть мощным инструментом, но его эффективность зависит от качества данных. Если данные неструктурированы или неточны, процессы, основанные на AI, могут оказаться неэффективными. Поэтому важно, чтобы компании имели чистые данные и четкие цели перед тем, как спешить с внедрением AI.

Продолжение: https://vk.com/wall-210601538_1542

⭐️ Тезисы из презентации "Большие языковые модели генеративного ИИ" (Февраль 2025)

Этот документ Института Изучения Мировых Рынков посвящен текущему состоянию и тенденциям развития больших языковых моделей (LLM). В нём рассматриваются вопросы финансирования, технологических достижений, а также стратегии развития в США и Китае.

1. Основные положения:

Рост инвестиций в ИИ: В 2024 году наблюдался значительный рост венчурных инвестиций в сферу искусственного интеллекта, особенно в разработку LLM. Доля компаний, специализирующихся на ИИ, в общем объеме венчурных инвестиций в четвертом квартале 2024 года достигла 50,8%, что почти вдвое превышает показатель 2023 года. Общий объем финансирования достиг 131,5 млрд долларов США, что на 52% больше, чем в предыдущем году.

Продолжение: https://vk.com/wall-210601538_1543

⭐️ ЕВРАЗ НТМК ввел в работу робогрузовики без водителей

ЕВРАЗ НТМК внедрил автономные электрогрузовики Evocargo для перевозки проб металла и темплетов стальных заготовок по территории комбината. Две машины ездят без водителей по заданным маршрутам общей протяженностью 4 километра. Об этом CNews сообщили представители компании «ЭвоКарго».

Робогрузовики произведены российской компанией «ЭвоКарго». Машины оснащены многокомпонентной системой восприятия и навигации. Роль «глаз» выполняют лидары, сонары и камеры, а на основе многочисленных сенсорных и навигационных данных вычислительный блок, «мозг» грузовика, координирует его движение и мгновенно реагирует на изменения на дороге. Режим работы может быть круглосуточным, исключая перерыв на подзарядку, во время которой происходит погрузка или выгрузка продукции.

Продолжение: https://vk.com/wall-210601538_1545

⭐️ Спрос на управление уязвимостями (в том числе MLSecOps) в России вырос на 304% в 2024 году

По итогам 2024 года рынок информационной безопасности в России продолжил активный рост. Наибольший спрос наблюдался в области управления уязвимостями (+304%), антифрод-решений (+172%), сетевой безопасности (+153%) и экспертных сервисов (+152%).

Аналитики «Инфосистемы Джет» связывают всплеск интереса к управлению уязвимостями с потребностью организаций обеспечивать реальную защищенность инфраструктуры, включая устранение программных уязвимостей и настройку безопасных конфигураций (харденинг).

Рост спроса на антифрод-решения объясняется расширением их применения за пределами финансового сектора. Компании из других отраслей начали внедрять такие системы для борьбы с мошенничеством.

Продолжение: https://vk.com/wall-210601538_1546

⭐️ Дата-сайентисты и брокеры стали самыми высокооплачиваемыми специалистами

На начало 2025 года самыми высокооплачиваемыми профессиями на российском рынке труда являются специалисты в области ИТ и брокеры. Об этом стало известно из исследования аналитиков платформы hh.

Так, по данным экспертов, наивысшие зарплаты получают дата-сайентисты и DevOps-инженеры в сфере ИТ, чьи доходы составляют в среднем 250 тысяч рублей (-6% за год) и 235 тысяч рублей (-7%) в месяц соответственно. На третьем месте находятся брокеры с зарплатой в среднем 200 тысяч рублей (+38%).

В список высокооплачиваемых профессий также вошли агенты по недвижимости с доходом 174 тысяч рублей (+26%) и геологи с геодезистами, зарабатывающие 150 тысяч рублей (+23% и +13% соответственно). Далее следуют программисты с зарплатой 148,2 тысяч рублей (+8%), прорабы — 144,5 тысяч рублей (+20%) и курьеры — 138,3 тысяч рублей (+25%).

Продолжение: https://vk.com/wall-210601538_1549

⭐️ Китай установил новый рекорд в области квантовых вычислений, превзойдя показатели Google в миллион раз

Процессор «Цзючунчжи-3», разработанный в Китае, продемонстрировал значительный прогресс в области случайной выборки цепей — метода, который обычно используется для проверки, достиг ли квантовый компьютер превосходства над классическими. Скорость работы прототипа в миллион раз превысила прошлогодние результаты квантового процессора Google Sycamore!

Квантовое превосходство — это способность квантового компьютера решать задачи, которые невозможно выполнить на классических машинах. В 2019 году процессор Sycamore от Google с 53 кубитами смог выполнить задачу случайной выборки цепей всего за 200 секунд. Чтобы смоделировать эту задачу на самом быстром суперкомпьютере того времени, потребовалось бы около 10 000 лет.

Продолжение: https://vk.com/wall-210601538_1550

⭐️ Более 40% работодателей намерены в 2025 году повысить зарплаты всем сотрудникам

2024 год стал непростым для многих, но большинство компаний все же увеличили зарплаты. 61% работодателей повысили оклады, 35% оставили их на прежнем уровне, а 4% были вынуждены сократить выплаты.

По данным исследования Русской Школы Управления (РШУ) опросивших представителей свыше 1000 компаний из разных областей, бизнес настроен на повышение зарплат, однако не все сотрудники смогут на это рассчитывать. Так, 44% компаний планируют повысить зарплаты всем сотрудникам, в то время как остальные будут увеличивать их только для определенных категорий: 24% — для специалистов; — 20% — для рабочих; — 9% — для среднего менеджмента; — 6% — для топ-менеджмента. 21% работодателей будут повышать зарплаты выборочно, а 17% не планируют никаких увеличений.

Продолжение: https://vk.com/wall-210601538_1551

⭐️ Милые девушки, дорогие Звездочки IT и покорительницы вершин MLSecOps!

Поздравляю вас с 8 Марта! Пусть в жизни не будет ошибок ни в жизни, ни в коде, а все проблемы решаются моментально!

Вы – настоящие легенды IT, которые не только разбираются в тонкостях машинного обучения, но и защищают его от всех напастей с помощью техник информационной безопасности. Ваша высокая экспертиза – это надежный щит для России, а ваши аналитические способности – меч, которыми вы сражаетесь за безопасное и светлое будущее!

Желаю вам в этот радостный день весеннего тепла, ярких улыбок, душистых цветов и заслуженного отдыха от бесконечного потока событий! И все же продолжаем учиться каждый день, и даже сегодня! Пусть ваши родные и близкие люди берут с вас пример!

С праздником! Вы – лучшие!

Архитектор MLSecOps
Николай Павлов

⭐️ В новостных лентах регулярно появляются новости про сокращения IT специалистов.

Очевидно, что рынок для этого направления трансформируется. Каким изменениям подвергнется одна из самых востребованных в последнее время профессий?

В январе 2025 эксперты «Хабр.Карьеры» провели анализ, который показал, что в 2024 году крупнейшие компании в сфере IT и телекоммуникаций, сократили количество размещенных вакансий на 15–18% по сравнению с 2023 годом. При этом больше всего сокращений было среди разработчиков. В то же время самый высокий рост спроса оказался на специалистов по искусственному интеллекту (ИИ): количество размещённых вакансий в 2024 году увеличилось на 43% (!) по сравнению с 2023 годом.

Этот тренд подтверждает и мнение экспертов.

Продолжение: https://vk.com/wall-210601538_1553

⭐️ Исследование рынка аналитиков в 2024 году

Привет, мои драгоценные Звезды IT!

Выходные, и как всегда я нашел вам что перекусить.
Пробуем исследование рынка аналитиков данных от newhr за октябрь 2024 года.

Агентство NEWHR опросило 1293 аналитиков 6 специализаций.
Они рассказали, где живут, на какие компании работают, на какие рынки ориентируются, как ищут работу и к чему стремятся. А также — сколько зарабатывают, и как изменилась их зарплата.

1. Тотальное большинство (92%) занимаются автоматизацией. Уверен, это значение еще больше увеличится в 2025 году.

2. Большинство не стремятся к релокации и желают остаться в России.

3. Большинство работают удаленно.

4. Чаще всего рост зарплаты связан со сменой компании или изменением грейда.

5. Средняя зарплата Middle Product Analyst составляет 300 тысяч в месяц, у Senior - 400 тысяч в месяц.

6. В TOP-3 наиболее авторитетных лидеров мнений в аналитике вошли ожидаемо Анатолий Карпов, Валерий Бабушкин и Роман Бунин. Примечательно, что все трое преподают в Karpov Kourses.

7. TOP-5 компаний для трудоустройства: Авито, Яндекс, Авиасейлс, Т-банк и Озон.

Ссылка: https://newhr.org/data/research-analysts-2024

И приятного аппетита!

Архитектор MLSecOps
Николай Павлов

⭐️ «Сбер» предупредил о резком росте мошеннических действий с использованием ИИ к середине 2025 года

Ожидается применение злоумышленниками ИИ для создания правдоподобных дипфейков, имитации голосов и осуществления многоязычных телефонных звонков.

Особую опасность представляет преодоление языковых барьеров в телефонном мошенничестве благодаря технологиям генерации речи.

Злоумышленники смогут осуществлять звонки на любом языке, что значительно расширит географию их преступной деятельности.

Согласно данным «Сбера», большая часть мошеннических звонков совершается через мессенджеры, а не через традиционную телефонную связь.

Центральный банк России также сообщает о значительных хищениях денежных средств у клиентов банков в 2024 году с использованием методов социальной инженерии.

Несмотря на усилия по борьбе с мошенничеством, преступники продолжают активно использовать мессенджеры для распространения вредоносного ПО и поддельных документов.

⭐️ Нейросети уже способны красть персональные данные, заявил эксперт

Злоумышленники могут использовать нейросети, которыми пользуются компании, для кражи персональных и корпоративных данных, а также взлома систем безопасности, поэтому им необходимо проводить аудит информационной безопасности, рассказал РИА Новости директор по искусственному интеллекту и цифровым продуктам "Билайна" Константин Романов.

"Нейросеть потенциально может использоваться для кражи персональных и корпоративных данных. Она может обрабатывать огромные объемы данных и извлекать из них информацию, в том числе и конфиденциальную. Существует возможность использования нейросетей для взлома систем безопасности и доступа к защищенным данным", - заявил он.

Продолжение: https://vk.com/wall-210601538_1557

⭐️ Утечки информации через AI-модели: как извлечь конфиденциальные данные из нейронных сетей?

В современной цифровой экосистеме появилась новая неотъемлемая часть – широкое множество ИИ-моделей. Поразительная способность «запоминать» данные, на которых обучалась модель, не только повышает точность работы модели, но и существенно повышает риск утечки конфиденциальной информации. Например, множество исследований и экспериментов показывало, что GPT-4 может выводить фрагменты персональных данных из обучающего набора при определенных целевых запросах! Также были продемонстрированы возможности восстановления лиц пациентов по весам нейронной сети, обученной на медицинских снимках!

Подобные аспекты усугубляются тем, что для достижения действительно высоких результатов моделям ИИ требуется обрабатывать огромные наборы данных, включающие, в том числе различную чувствительную информацию, например, сканы паспортов или финансовые транзакции. При этом подавляющее большинство разработчиков не могут проверить, что именно было запомнено моделью ИИ.

Продолжение: https://vk.com/wall-210601538_1558

⭐️ Новая китайская генеративная нейронная сеть Wan 2.1

Создатели китайских нейронок Qwen выпустили мощный генератор видео Wan 2.1. И теперь он доступен прямо в браузере.

Есть функция «Улучшить промт», можно добавлять звуковые эффекты и включать режим вдохновения — нейронка сама будет доводить результат до идеала. На старте дают 100 токенов (хватит на 10 роликов от лучшей модели).

Ссылка: https://wan.video/

Архитектор MLSecOps
Николай Павлов

⭐️ Порог входа в IT сильно вырастет к 2030 году

К 2030 году более 90% разработчиков начнут использовать ИИ для написания и проверки кода — прогноз от первого вице-президента по технологиям МТС Павла Воронина.

Сейчас в компании ~8% кодов создается с помощью искусственного интеллекта. Через два года эта доля вырастет еще в три раза, до 25%.

Тенденция вполне логичная — нейросетям можно делегировать рутину, чтобы заниматься более сложными и креативными задачами. Полностью заменить айтишников ИИ вряд ли сможет в ближайшее время. Однако порог входа в IT-сферу продолжит расти.

NN

⭐️ Senior MLSecOps Engineer в Т-банк

Требуемый опыт: Более 6 лет
График: Полный день
Тип занятости: Полная занятость

Мы ищем опытного MLSecOps Engineer, который присоединится к нашей команде для обеспечения безопасности моделей машинного обучения и инфраструктуры.

Ваша основная задача будет заключаться в разработке и внедрении безопасных процессов и практик для разработки, развертывания и мониторинга моделей машинного обучения, а также в защите наших данных и моделей от различных угроз.

Вы будете работать в тесном сотрудничестве с нашими AI-командами, ML-платформой, DevSecOps для создания надежной и безопасной ML-инфраструктуры.

Продолжение: https://vk.com/wall-210601538_1561

⭐️ В Китае внедрят образовательные программы по искусственному интеллекту в школах

Начиная со следующего учебного года, ученики начальной и средней школы Пекина будут изучать ИИ.

⚡️ С 1 сентября школьники будут посвящать не менее 8 академических часов в год изучению ИИ.

💡 Эти занятия могут быть организованы как самостоятельные курсы или интегрированы в существующие предметы, такие как информатика и науки о природе.

Китай нацелен на доминирование в сфере развития ИИ. Этот интерес подстегнут успехами нескольких китайских компаний, разработавших модели ИИ, конкурентоспособные с американскими аналогами, но при этом более эффективными в использовании ресурсов.

Министр образования Китая Хуай Цзиньпэн подчеркнул, что ИИ предоставляет новые горизонты для образования.

🌡 В 2025 году планируется публикация официальной "Белой книги" по обучению ИИ, которая послужит руководством для интеграции технологий в образовательный процесс.

⭐️ Тестовые задания на ИТ-вакансии отталкивают до 80% кандидатов

Только 2 из 10 разработчиков откликнутся на вакансию, где указана необходимость пройти тестовое задание. Среди тестировщиков этот показатель составляет 6 из 10.

Согласно исследованию сервиса SuperJob, лидерами в списке готовых пройти «вступительное испытание» находятся тестировщики программного обеспечения – 63% из них охотно откликаются на вакансии с тестами, а 27% делают это избирательно, отправляя резюме только на некоторые предложения. За последние четыре года готовность тестировщиков участвовать в тестировании при трудоустройстве возросла, что связано с высокой конкуренцией на рынке труда в IT-сфере.

Продолжение: https://vk.com/wall-210601538_1564

⭐️ «Сбер» представил GigaChat 2.0

Обновленный ИИ от «Сбера» поможет корпоративным клиентам компании решать бизнес-задачи быстрее и эффективнее.

Главной моделью обновленной линейки является большая языковая модель ⭐️ GigaChat 2 MAX.

💡 Она стала мощнее первого поколения, демонстрируя отличные результаты в задачах на русском языке по сравнению с зарубежными аналогами.

⭐️ GigaChat 2 Pro предназначена для сценариев, требующих высокой точности и креативности, обеспечивая уровень MAX первого поколения, но с меньшим потреблением ресурсов.

⭐️ GigaChat 2 Lite - предназначена для простых задач, по качеству соответствует Pro предыдущего поколения.

Продолжение: https://vk.com/wall-210601538_1565

⭐️ Безопасность искусственного интеллекта: главные риски для России и мира

Искусственный интеллект (ИИ) стремительно проникает в различные сферы – от бизнеса до медицины, словно буря, не оставляющая места для сомнений. Однако это волнение сопровождается множеством критических проблем безопасности, которые, как тени, требуют тщательного анализа и детального решения. Давайте погрузимся в этот лабиринт, опять же, основываясь на исследованиях специалистов из Беркли, Стэнфорда и Google Brain.

Обсуждение безопасности ИИ охватывает несколько ключевых аспектов. Каждую из этих областей нужно не просто понять, а глубоко исследовать, как будто разгадываем сложный ребус.

1. Безопасное исследование окружающей среды
Опасность катастрофических действий: Как обеспечить, чтобы агенты, обученные методом подкрепления (RL), могли изучать окружающую среду без риска для себя и других? Может ли агент, например, исправлять обстановку, не разрушая по пути что-то важное?

Продолжение: https://vk.com/wall-210601538_1566

⭐️ Главный эксперт по безопасной разработке (MLOps) в Альфа-Банк

Обязанности:
+ Анализировать безопасность систем ML, LLM и GenAI
+ Разрабатывать защиту от атак на системы ML, LLM и GenAI
+ Проводить аудиты и тестирование AI-систем на проникновение
+ Разрабатывать политики и процессы безопасности AI/ML
+ Интегрировать безопасные практики в жизненный цикл моделей
+ Отслеживать новые угрозы и требования в сфере AI-безопасности

Требования:
+ Опыт в ИБ или ML (1–3 года)
+ Глубокое понимание принципов работы ML/LLM/GenAI
+ Знакомство с работой MLOps-конвейера
+ Понимание угроз и атак на ML/LLM/GenAI
+ Знание ML-фреймворков (TensorFlow, PyTorch) и MLOps-инструментов
+ Умение разбираться в современных LLM и GenAI
+ Знакомство с инструментами анализа безопасности ML/LL

Будет плюсом:
+ Знание распространенных уязвимостей и атак на системы машинного обучения
+ Понимание подходов и практик DevSecOps / MLOps / MLSecOps / LLMSecOps

Условия:
+ Стабильный и прозрачный доход: размер заработной платы обсуждается по итогам собеседования + квартальная премия по результатам KPI
+ Гибкий график работы: вы сможете планировать время так, как удобно вам и вашей команде
+ Полную удалёнку или гибрид на выбор, а также уютный ИТ-хаб в Москве, Санкт-Петербурге, Екатеринбурге и сезонный коворкинг в Сочи
+ Сложные и интересные задачи
+ Заботу о вашем здоровье: программа ДМС с первых дней работы, куда входит стоматология, обслуживание в лучших клиниках города, страхование и компенсация 10-ти дней больничного
+ Возможность вертикального и горизонтального карьерного роста: регулярно проходят тренинги, вебинары, митапы и демо-дни
+ Оплату посещения профильных конференций и курсов, помогаем с подготовкой к публичным выступлениям и написанием статей на Хабр
+ Доступ к бесплатным корпоративным библиотекам Alpina Digital, MyBook и бизнес-изданий
+ Предложения от Банка только для сотрудников: собственные спортзалы (Москва, Санкт-Петербург, Екатеринбург), а также скидки на услуги туристических агентств, продукты питания, в рестораны, бары, магазины

Ссылка на вакансию: https://hh.ru/vacancy/118296846

Архитектор MLSecOps
Николай Павлов