Локальные LLM в работе аналитика: опыт, сложности и советы

Сегодня поговорим про локальные LLM (большие языковые модели), зачем они вообще аналитику и почему не всё так гладко, как кажется.

Зачем мучиться с локальной моделью, если есть ChatGPT?

Если у вас нет NDA и вопросов конфиденциальности — дальше не читайте. ChatGPT справится на ура.

Но если вас ограничивает соглашение о неразглашении — этот пост для вас.

Задача, которую я хотел решить:

Регулярно создаю и редактирую аналитические документы (use cases, требования, цели, API). Делать вручную долго и муторно. Поэтому решил автоматизировать с помощью локальной LLM.

Что нужно для запуска локальной LLM?

0️⃣ Железо (основная проблема)
- Нужна мощная видеокарта (от 8 GB VRAM).
- Без GPU всё плохо, даже не пытайтесь.

1️⃣ Софт для запуска
- Ollama (Docker, CLI, терминал — сложно)
- LM Studio (просто, понятно, рекомендую)

2️⃣ Подбор модели
- Размер модели сильно влияет на качество и требования к GPU.
- DeepSeek и другие часто прыгают с языка на язык (русский-английский-украинский).
- Ограниченное окно контекста (нужно несколько чатов для больших задач).

Мои фавориты:
- gamma-3-12b-it (запустил на MacBook M4 Pro, отлично)
- gamma-3-4b-it (запустил на RTX 3050 8 GB VRAM, норм)

3️⃣ Практика: результаты

✅ Плюсы:
- Быстро собирает требования из use cases.
- Структурирует информацию.
- Помогает генерировать идеи.

❌ Минусы:
- Markdown сложно переносится обратно в модель (лучше сразу работать в Markdown).
- Нужны качественные промпты.

4️⃣ Выводы

Локальная LLM отлично помогает:
- быстро генерировать идеи;
- приводить в порядок черновики;
- систематизировать записи.

Но не заменит ваш мозг и критическое мышление.
Не факт, что быстрее, чем вручную, но инструмент перспективный.

Буду держать вас в курсе. Делитесь опытом в комментариях!

#ИТ_база@analyst_exe
analyst.exe | чат | практика

Навигация

Бу, заблудился? Не бойся. Лови карту сокровищ — всё важное в одном месте.

Основные материалы

🔸 Что важно для работы системного аналитика — видео
🔸 Навыки и знания аналитика — видео

Практика

🔸 Разбор задачи системного аналитика № 1 — видео
🔸 Разбор IT-задачи с системным аналитиком — видео

От идеи до реализации

🔸 #1. Делаю чат-бот TG-канала — серия
🔸 #2. Делаю TG-бот навигации канала — серия

Карьера

🔸 Собеседование на фулл-стек аналитика — видео
🔸 Открытый сборник тестовых заданий — задачник
🔸 Аналитическая прожарка № 1 — разбор

💾 Сохрани и поделись с коллегой, который опять спрашивает «а где материалы?» 😎

⸻

Быстрый поиск 🔽

#материалы@analyst_exe — важные видео-разборы
#работа@analyst_exe — про поиск работы
#собеседование@analyst_exe — мок-собеседования
#sql@analyst_exe — всё про SQL
#api@analyst_exe — всё про API
#bpmn@analyst_exe — нотация моделирования процессов
#it_задача@analyst_exe — решаем IT-задачи
#ИТ_база@analyst_exe — про IT-фундамент
#данетка@analyst_exe — увлекательная игра
#книги@analyst_exe — читаем, обсуждаем
#полезные_каналы@analyst_exe — must-have подборки
#meme@analyst_exe — мемы собственного разведения
#анонс@analyst_exe — мероприятия
#советы@analyst_exe — премудрости
#uml@analyst_exe - разбираем нотацию на мелкие кусочки

🔥#1 Аналитическая прожарка 🔥

ТАЙМКОДЫ

Рассказываю, что за видео, что за прожарка такая:

👥 Кто мы такие?
Никита Миронов и Галина Кореневская , мы - два аналитика, к которым попало тестовое задание на разработку требований, и мы ничего умнее не придумали не удержались, и разобрали результат в эфире.


🎬 Что это за формат?
Разбираем подробно артефакт работы аналитика, рассуждаем о том, что можно было сделать лучше, а что уже сейчас прекрасно. Также делимся опытом, как те или иные артефакты делаем мы. Ну, конечно, все это не без сарказма, иронии и дискуссий.


📌 В этом видео:
Мы разбираем задачу "ТЗ на доработку функциональности использования раздела «рецепты» в ПО «Самокат»"


❤️ Лайкните, если формат вам зашел, и будете смотреть такие выпуски

P.S. Если хотите, чтобы мы разобрали ваш артефакт/ задание, которое вы выполняли — напишите в комментарии, или пишите нам в л/с:

Никита - @darkwing_duck101
Галя - @GaLina_Korenevskaya

#материалы@analyst_exe

📣 ATTENTION
На этой неделе возвращаются стримы

Пишите в комментариях ваши пожелания по темам:

🔸разборы тестовых заданий
🔸прожарки
🔸серфинг вакансий в прямом эфире
🔸собеседования
🔸или может что-то еще?💬

analyst.exe | чат | практика

А вы думали нет?

#meme@analyst_exe

analyst.exe | чат

Так и живём

#meme@analyst_exe

analyst.exe | чат

Задачи, требования, архитектура, созвоны, работа, контрольные точки...

Также админ, когда за день подписалось 20 человек:

#meme@analyst_exe
analyst.exe | чат

Знаете, я и сам своего рода архитектор

#meme@analyst_exe
analyst.exe | чат

⚡У Гали вышел интерсный подкаст
Послушал, думаю каждый найдет что-то для себя

Про моделирование бизнес процессов с Галиной Кореневской

#материалы@analyst_exe
analyst.exe | чат

#анонс@analyst_exe

Открытый микрофон 31.03 в 20:00 МСК

Привет! Давайте сегодня хорошо отдохнем, а завтра (31.03) в 20:00 МСК пообщаемся о важных для вас вопросах.

Для этого предлагаю:

🔸Заполнить форму
🔸Написать вопросы в комментариях под этим постом
🔸Прийти на трансляцию и задать свои вопросы там!

Давно не общались, всех жду 🕺
P.s. запись будет, трансляция будет в канале @analyst_exe
analyst.exe | чат | практика

Уже через 15 минут начинаем!

analyst.exe | чат

#материалы@analyst_exe

⚡Запись открытого микрофона, ух наговорил ж я там

Аудиоверсия

Таймкоды:
01:40 Начинаем
02:30 История с проблемой трудоустройства на позиции джуна
07:00 В ИТ менять работу каждые полгода это норма?
10:35 Почему аналитики чаще выгорают, чем разработчики?
12:54 С чего ты начал путь в аналитике? Это был осознанный выбор?
21:20 Нужна ли магистратура, если хочешь стать архитектором ПО?
26:03 Ждем прожарку вакансий на БА! Что сейчас хотят работодатели от нас?
30:12 Как решать конфликтные ситуации на работе?
33:30 Где я видел хороших менеджеров?
37:15 Если на руках несколько офферов, как принять решение?
37:59 Что для меня важно при поиске работы? На что обращать внимание?
41:33 Почему канал называется analyst.exe?
43:03 Учиться работать 6-8 часов. ЗАЧЕМ?
44:13 Сбор БТ занимает 80% работы? Это правда?
46:10 Про паспорт проекта
47:31 Про проектный треугольник
50:51 Надо ли уметь читать код и с каких языков программирования начать?
54:02 В каких сферах сейчас востребованы бизнес-аналитики?
54:52 Три касты бизнес-аналитиков
58:45 Личный чекист гендира
59:27 Что пожелать начинающему аналитику, кроме терпения?
01:01:01 Какие темы вам интересны? Пишите в комментариях
01:01:20 Топ-3 книги для аналитика
01:03:59 Про чатGPT
01:09:00 Сиба в студии ❤️

analyst.exe | чат

Всем хорошего дня ☺️

analyst.exe | чат

#советы@analyst_exe

1% удачи + 99% усилий = 100% успех

Если вы хотите:
🔸 Стать успешнее в каком-то деле
🔸 Получить уверенность в своих силах
🔸 Научиться чему-то новому
🔸 Добиться чего-то... и далее по списку

Единственный фактор, который определяет "получится или нет" и как далеко вы зайдете:

Объем потраченного времени

"Скажите мне, куда вы тратите время и я скажу вам, куда вы в итоге придете"

Причем это должно быть сфокусированное время. До 30-40 минут не считается. Вы как машина, которой надо набрать скорость. Сели - не отвлекайтесь пару часов. Вспомните про состояние потока.

P.s. Не просто так говорят "чтобы стать профи надо потратить 10000 часов"
analyst.exe | чат

Привет! Лучший сервис проводит конфу 11 апреля (я пойду)

И они проводят розыгрыш. Отличное место для нетворкинга.
Участвуйте!

https://news.1rj.ru/str/bpmn2ru/1625

analyst.exe | чат

#memes@analyst_exe

Записал вам дисклеймер канала, это честно-честно я!


На самом деле посмотрите, куда дошли технологии.. (или это мы дошли? на лыжах?)

Скоро и кредиты ИИ за вас будет брать по телефону, главное, что отдавать придется вам =)

analyst.exe | чат