Самые современные языковые модели — Large Language Models (LLM) — могут решать множество бизнес-задач. Например, отвечать пользователям в чате, чтобы снизить нагрузку на службу поддержки, или давать подсказки сотрудникам. Как завести такую модель в вашей компании?

✅ Создаем свою модель

LLM создают с нуля только очень крупные компании. Разработка такой модели требует огромного количества ресурсов: данных, видеокарт и времени опытных сотрудников. Если коротко, создание своей LLM — это очень, очень дорого и сложно. Поэтому для простоты перейдём к способам, которые подходят большинству бизнесов, — использовать готовую модель в облаке или на своей инфраструктуре.

А лучше что: в облаке или нет?

Чаще всего бизнесы берут готовые проприетарные (то есть закрытые) или опенсорсные нейросети и используют их. В зависимости от модели её можно использовать в облаке по API или запустить на своих ресурсах. Для решения задач бизнеса подходят оба способа.

Использовать как есть или дообучать?

Какой бы способ вы ни выбрали, дальше нужно будет решить, хотите вы дообучать модель или нет.

🔸 Использование готовой модели поможет в решении общепрофильных задач. Она сможет сформулировать вежливый ответ для клиента, но не будет учитывать специфику вашего бизнеса, например не внесёт туда уникальную информацию о ваших товарах и услугах, если вы не будете добавлять эту информацию к каждому запросу.

🔸 Дообучение поможет научить модель решать узкоспециализированные задачи. Модель, дообученная на сообщениях специалистов поддержки, научит её отвечать в фирменном стиле или лучше понимать специфические термины.

🔸 Дообучение требует времени, ресурсов и усилий ML-инженера. Поэтому сперва стоит попробовать, справляется ли уже готовая модель с вашими бизнес-задачами. Например, нейросеть может найти нужную информацию в базе знаний и без дообучения — с помощью метода Retrieval Augmented Generation (RAG). Если результат всё равно не устраивает, можно использовать дообучение.

🔸 RAG и дообучение можно использовать вместе, потому что они предназначены для разных целей. Допустим, вы хотите, чтобы LLM создавала описания для товаров. Если вы используете RAG, подключив её к базе данных с товарами, модель составит описание, используя информацию оттуда: название товара, модель, параметры. Если вы примените такой способ и дообучите модель на красивых описаниях, она сможет делать описания более привлекательными.

✅ Используем языковую модель

1. Определитесь с моделью. Важно учитывать множество факторов. Например, сколько в ней параметров, доступна ли она по API, можно ли развернуть её на инфраструктуре заказчика, есть ли у неё режим рассуждений и другие функции.

2. Проприетарные модели работают на серверах компании-разработчика, поэтому в их стоимость фактически входит аренда оборудования, а также мониторинг и обновление моделей. Для самостоятельного запуска опенсорсных моделей понадобится своя инфраструктура. Впрочем, есть и частные случаи: для дополнительной безопасности компании-разработчики могут развернуть нейросети на инфраструктуре заказчика. А некоторые облачные провайдеры запускают опенсорсные нейросети на своих мощностях, чтобы клиенты могли использовать их по API.

3. Используйте облачную модель по API или же скачайте модель и разверните её на своей инфраструктуре с помощью специальных инструментов. Если хотите, чтобы языковой моделью мог воспользоваться любой, сделайте интерфейс, где все пользователи смогут отправлять запросы и получать ответы. Это могут быть веб-интерфейс, мобильное приложение или даже Telegram-бот.

4. Теперь сотрудники компании или внешние пользователи могут общаться с моделью. Например, уточнять через бота, в наличии ли вещь в магазине, запрашивать помощь в написании писем, делать выжимки из документов и многое другое.

Как дообучить модель рассказываем в следующем посте 👇

Подписывайтесь 👉 @yab2btech

В первой части поста рассказали о двух способах запуска языковой модели в компании — создать свою модель или использовать готовую. Рассказываем, как дообучить готовую LLM на ваших данных, чтобы решать узкоспециализированные задачи.

✅ Дообучаем языковую модель

1. Выберите и запустите модель по инструкции выше.

2. Выберите метод дообучения. Часто эффективнее не дообучать LLM целиком, а воспользоваться методом LoRA — он не меняет исходные веса модели, а добавляет к ней новые параметры. Он быстрее и дешевле полноценного файнтюнинга и, кстати, есть в Yandex Cloud.

3. Подготовьте данные. В зависимости от метода дообучения формат датасета может различаться. Например, это могут быть пары ответов с пометкой, какой из них лучше, или условная таблица с двумя колонками (пример запроса и правильного ответа). Чем данных больше, тем лучше.

Иногда достаточно просто собрать их, но зачастую нужны очистка и разметка. В каждом конкретном случае очищать и размечать данные нужно по-разному. Помните: эффективность дообучения зависит от чистоты и разнообразия данных.

4. Запустите дообучение модели самостоятельно или с помощью облачного провайдера. В первом случае нужно скачать набор библиотек для конкретной модели (их можно найти на HuggingFace) и запустить программный код для дообучения. У каждой модели, как правило, есть свой туториал по дообучению.

5. Придумайте метрики, которые позволят понять, получилось ли дообучить модель под ваши цели. Например, проведите side by side-тестирование, сравнив вашу LLM с baseline-моделью.

Всё же понятно?

😍 — да, уже иду делать
🤝 — да, скинул пост коллегам-айтишникам

Подписывайтесь 👉 @yab2btech

Данные отчёта Всемирного экономического форума (WEF) за 2025 год показали, что большинство представителей малого и среднего бизнеса считают, что не справятся с серьёзной кибератакой. При этом 43% всех кибератак направлены на компании с численностью до 1000 человек.

Дело не только в финансах: у таких компаний часто нет ни внутренних специалистов, ни отработанных сценариев реагирования, ни доступа к внешним командам быстрого реагирования, что делает их лёгкой целью для хакеров. 

Главные риски

WEF называет три ключевых фактора, которые усиливают угрозы:

🔹 Ускоренная цифровизация без должной защиты.
🔹 Зависимость от облаков и подрядчиков, где контроль слабее.
🔹 Рост автоматизации — и, как следствие, больше точек входа для атаки.

Часто уязвимости связаны с использованием подрядчиков, SaaS, сторонних API. Это особенно критично для малого бизнеса, где большая часть инфраструктуры держится на сторонних решениях.

Последствия для бизнеса

Для малого бизнеса кибератака — это не просто сбой. Это простой работы, потеря клиентов, штрафы. Согласно данным аналитиков, около 60% небольших компаний заканчивают работу после серьезных кибератак. Систематически инвестировать в цифровую защиту оказывается дешевле, чем восстанавливаться после атаки.

Что делают компании

По данным опроса WEF, 91% компаний увеличили инвестиции в кибербезопасность, а  64% внедряют тренировки и симуляции атак. Отдельные роли по киберрискам на уровне C-level создаёт только половина опрошенных, а регулярные проверки безопасности проводят лишь 20% компаний.

Но большинство этих мер — запоздалые. Они вступают в силу уже после инцидента или под его давлением. В малом бизнесе подход к безопасности часто ситуативный: нет стратегии, нет регулярного аудита, решения принимаются точечно.

Когда в последний раз вы проверяли свою готовность к кибератаке? Проведён ли внешний аудит? Есть ли план реагирования? Если нет — пора начать сегодня.

Подписывайтесь 👉 @yab2btech

Такие данные приводят в свежей статье Mckinsey. Дополнительная экономическая ценность — это и выручка, и экономия на затратах. Кроме того, эксперты считают, что внедрение ИИ поможет вдвое ускорить скорость НИОКР. 

Такие сценарии пока не в фокусе внимания — ИИ сегодня обсуждается прежде всего как инструмент повышения эффективности процессов, а не исследований. И, по мнению экспертов McKinsey, очень зря. 

Как именно можно использовать ИИ в НИОКР? 

🔹 Создание проектов. К примеру, ИИ может спроектировать архитектуру магазина для компании ритейлера. Или структуру нового белка для фармацевтической компании.

🔹 Оценка проектов. ИИ-модели могут помочь испытать проекты-кандидаты на внедрение и сделать выводы об их эффективности. Так, существуют модели, способные точно предсказывать физические явления — с их помощью можно протестировать в виртуальной среде цифровых близнецов деталей, изделий или устройств.

🔹 Ускорение исследовательских работ. ИИ может помогать на разных этапах — например, выявлять потребности ЦА с помощью цифровых двойников, быстро искать и саммаризировать научную литературу, помогать искать сведения в корпоративных базах данных, и многое другое.

Используете ИИ для исследований?

🤩— Конечно!
🤔— Нет, но хочу начать 

Подписывайтесь 👉 @yab2btech

Понедельник — время битуби-дайджеста

Отставание во внедрении ИИ может привести к потере конкурентных преимуществ
По мнению главы по ИИ в PwC,  компании должны активнее инвестировать в ИИ-технологии, чтобы автоматизировать процессы и улучшать аналитику данных. Эксперт отметил: организации, игнорирующие ИИ, рискуют проиграть прогрессивным конкурентам уже в ближайшие два-три года. В PwC считают, что грамотная ИИ-стратегия поможет компаниям не только сократить издержки, но и создать новые бизнес-модели.

Яндекс запустил обновлённую версию ИИ-помощника «Нейроэксперт» для офисных сотрудников
В новую версию добавили функции анализа данных, совместной работы и рассуждений на основе загруженных документов. Сервис уже протестировали 350 тысяч пользователей, чаще всего запрашивая помощь в образовательных, юридических и финансовых вопросах. 

Google добавил в сервисы Workspace настраиваемых ИИ-ассистентов
Ассистенты Gems на базе Gemini доступны в Gmail, Документах, Таблицах и других сервисах. С их помощью можно создавать персонализированных ботов для конкретных задач — от копирайтинга до анализа данных — или выбирать шаблоны на боковой панели. Gems обучаются на загруженных документах, что позволяет автоматизировать рутинные процессы и поддерживать единый стиль коммуникации. 

Hyundai первым среди автопрома протестирует роботов Atlas от Boston Dynamics
С октября этого года роботы будут сортировать автодетали на заводе в Джорджии. Если испытания пройдут успешно, технологию могут внедрить и на заводах Kia. Это первые реальные испытания Atlas перед запланированным началом продаж в 2028 году. Ранее аналогичные тесты с роботами-гуманоидами уже анонсировали BMW со стартапом Figure и Mercedes-Benz с Apptronik.

Microsoft будет оценивать навыки сотрудников по работе с ИИ-инструментами
Умение пользоваться ИИ-сервисами, включая GitHub Copilot, станет обязательным критерием — наравне с командной работой и аналитическими навыками. Согласно внутреннему документу компании, новую метрику начнут применять со следующего финансового года, чтобы стимулировать работников активнее осваивать технологии, которые они разрабатывают.

Yandex Cloud представил обновлённый сервис речевой аналитики Yandex SpeechSense
Он позволяет бизнесу анализировать офлайн-диалоги в банках, магазинах и медучреждениях с помощью нейросетей. Новая версия помогает оценивать лояльность клиентов, эффективность маркетинговых предложений и качество работы персонала, выявляя успешные речевые паттерны.

Сервис решает ключевую проблему офлайн-аналитики — разделение реплик в диалоге между сотрудником и клиентом с помощью YandexGPT и технологии Speaker Labeling — и помогает бизнесу повысить качество обслуживания без дорогостоящего оборудования, используя записи с обычных диктофонов.

В MIT разработали технологию, позволяющую роботам «видеть» содержимое закрытых коробок  
Технология mmWaveс работает с точностью до 96%, тогда как аналоги — лишь 70%. Система анализирует отражение миллиметровых волн, воссоздавая форму предметов даже сложной конфигурации, таких, как столовые приборы. Её можно использовать в логистике, например, чтобы выявлять брак без вскрытия упаковки, а также на складах — для автоматической сортировки и контроля качества товаров.

62% российских IT-компаний планируют увеличить бюджеты на ИБ в 2025 году
Это на 12% больше, чем в 2022-м, согласно исследованию «Индекс кибербезопасности» от «МегаФона» и МИЦ. Основные причины — необходимость защиты персональных данных, критической инфраструктуры и противодействие социальной инженерии. 

X5 Group внедрила робота-инвентаризатора от Яндекс Роботикс
Он работает на складе «Перекрёстка» в Софьино, что позволило увеличить ежедневный объём проверок товаров в 4 раза и снизить нагрузку на персонал. Оснащённый лазерным дальномером и камерами, робот сканирует до 30 тысяч палет в час, оперативно выявляя и исправляя расхождения в учёте. Это помогает избежать дефицита товаров и сократить расходы на инвентаризацию на 30%.

Подписывайтесь 👉 @yab2btech

Когда начался бум генеративного ИИ, многие компании обожглись. Они начали внедрять ИИ с большим энтузиазмом, но зачастую пилоты показывали невысокую эффективность. Поэтому сегодня компании сворачивают пилоты и перестраивают подходы к ИИ-оптимизации. В PepsiCo говорят, что смогли избежать этой проблемы благодаря продуманной стратегии внедрения. Компания внедрила ИИ во все ключевые процессы без лишних пилотов.

Как компания организовала внедрение ИИ
Директор по стратегии и трансформации PepsiCo Афина Каниура рассказывает, что компания одновременно внедряет максимум 4–5 ИИ-проектов, которые получают инвестиции и экспертов. Остальные идеи тестируются во внутренней песочнице PepGenX, где сотрудники могут свободно создавать, что душе угодно. Но проектам дают ход, лишь если будет доказана их способность серьёзно повысить KPI или другие показатели. 

Прогнозирование спроса
В PepsiCo начали трансформацию с системы прогнозирования спроса. ИИ в ней анализирует историю продаж, маркетинговые акции и сотни других внешних сигналов. Сведения корпорации передают партнёры, например розничные сети. 

Модель пересчитывает прогнозы ежедневно и заранее показывает «горячие» недели, когда спрос на те или иные продукты может подскочить, например во время крупных праздников или фестивалей. 

Агенты на складах
Песочница PepGenX имеет доступ к ИИ-сервисам Amazon и Salesforce AI. С их помощью разработчики создают ИИ-агентов, которые могут автоматизировать многие функции. Такие агенты получают данные из разных облачных сервисов компании и управляют множеством процессов. Некоторым из них компания даёт ход — на складах и логистических объектах такие агенты могут планировать заполнение площадей для хранения и подсказывать мерчандайзерам, куда раскладывать товар. 

ИИ-продажники
Ещё одно применение агентов — в продажах. На B2B-платформе агенты помогают создавать заказы корпоративных клиентов. Другие отвечают за то, чтобы и оптовые покупатели PepsiCo, и торговые представители компании имели доступ к данным о запасах в реальном времени. Наконец, они могут создавать единые профили розничных клиентов, через которые можно и прогнозировать поставки, и получать рекомендации по запуску маркетинговых кампаний, нацеленных на конкретные магазины и продукты. 

Для создания новых продуктов 
ИИ помогает разрабатывать новинки. Анализируя огромные массивы данных о потребителях и продажах, нейросети могут подсказывать, как улучшить рецептуру или брендинг новых продуктов. ИИ ускоряет запуск новинок — с 6–9 месяцев до 6 недель. Так компания создаёт новые виды чипсов Cheetos. А ещё PepsiCo использует ИИ для анализа отзывов о продуктах, чтобы получить рекомендации, как их можно улучшить. 

ИИ-маркетологи
Наконец, нейросети помогают компании запускать и оптимизировать рекламные кампании. ИИ используется и для креативной работы — создания маркетинговых концепций, — и для их тестирования на виртуальных респондентах.

Подписывайтесь 👉 @yab2btech