Avito Pixel

от 150 000 ₽

базовое развёртывание

от 300 000 ₽

корпоративный + RAG

от 800 000 ₽

Enterprise / закрытый

Архитектура локальной LLM для 30–250 сотрудников

Основатель: Павел Стасиньский

Практический sizing: сколько GPU, какая модель, как считать одновременные запросы и когда нужен RAG. Без «купите H100». Внедрение — /lokalnye-llm, пакеты от 150 / 300 / 800 тыс. ₽ + оборудование.

Практический sizing: сколько GPU, какая модель, как считать одновременные запросы и когда нужен RAG. Без «купите H100». Внедрение — /lokalnye-llm, пакеты от 150 / 300 / 800 тыс. ₽ + оборудование.

Для 30 человек пик часто 3–8 одновременных запросов; для 100 — 10–25; для 250 — десятки, если все открывают чат в одно окно. Считайте пик смены, не штат «в списке».

Длина контекста и RAG умножают нагрузку: ответ по 50-страничному PDF тяжелее короткого чата. Фиксируем сценарий до выбора GPU.

Укажите число сотрудников и наличие GPU — /lokalnye-llm. Подбор железа — /gpu-dlya-llm.

Работаем с компаниями на amoCRM, Битрикс24, 1С, ERP и самописных системах — внедряем поверх текущего контура.

Услуга — для компаний-заказчиков. Субподряд, резюме и предложения услуг рассматриваем только на отдельной странице: Партнёрам .

Типичные проблемы

  • — Непонятно, хватит ли одной карты на отдел или нужен кластер
  • — Боятся купить «лишний» H100 или наоборот — слабый сервер
  • — Нет методики теста latency при 10–50 одновременных вопросах
  • — RAG и чат смешивают в одну смету без границ

Что получите

  • — Ориентир VRAM и числа GPU под headcount
  • — Схема: runtime → модель → RAG → API / чат
  • — Чеклист нагрузочного теста до закупки
  • — Привязка к пакету 150 / 300 / 800 тыс. ₽

Как считаем контур

01

Сначала пользователи и пик, не «лучшая модель»

Для 30 человек пик часто 3–8 одновременных запросов; для 100 — 10–25; для 250 — десятки, если все открывают чат в одно окно. Считайте пик смены, не штат «в списке». Длина контекста и RAG умножают нагрузку: ответ по 50-страничному PDF тяжелее короткого чата. Фиксируем сценарий до выбора GPU.

02

Ориентиры GPU 2026 (не догма)

до 30: часто 24–48 ГБ VRAM, одна модель 7–32B в квантизации, Ollama для пилота → vLLM при росте. 30–100: 48 ГБ или 2×24–32 ГБ, корпоративный RAG. 100–250: 80 ГБ+ или несколько GPU, batching, мониторинг. H100 не обязателен. Подбор и поставка — /gpu-dlya-llm. Работы Bober и железо в смете разделены.

03

RAG, роли и API

Чат без базы знаний быстро разочаровывает. Для регламентов — локальный RAG со ссылками и ACL. Для 1С/CRM — отдельный контур tool-calling, не «одна кнопка на всё». OpenAI-совместимый API нужен, если будут свои приложения. Иначе достаточно корпоративного чата с ролями.

04

Как протестировать до закупки

Эталон: 20–50 ваших вопросов, замер p50/p95 latency при N одновременных сессиях, доля ответов с корректной цитатой. Без этого sizing — гадание. Пилот 2–4 недели на /lokalnye-llm закрывает гипотезу до CAPEX на «флагманский» сервер.

Чеклист выбора

  • — Пик одновременных запросов, не только headcount
  • — Сценарий: чат / RAG / интеграции
  • — VRAM shortlist + запас 20–30%
  • — Нагрузочный тест на эталоне
  • — Пакет: 150 / 300 / 800 тыс. ₽ + железо

Ориентир сметы и сроков

от 150 000 ₽

базовое развёртывание

от 300 000 ₽

корпоративный + RAG

от 800 000 ₽

Enterprise / закрытый

2–4 нед.

пилот

Цена и условия

Коммерческие условия услуги
Цена от 500 000 ₽
Срок 21 дн.
Формат Фиксированная смета · удалённо
Состав Аудит процессов, настройка автоматизации, интеграция с CRM и документами, обучение команды.

Частые вопросы

Сколько стоит внедрение локальной LLM на 50–100 человек?
Чаще корпоративный пакет от 300 000 ₽ + GPU. Если нужен закрытый контур и несколько подразделений — от 800 000 ₽. Точная вилка после 3 вопросов: headcount, железо, RAG/CRM.
Можно ли начать на 30 и вырасти до 250?
Да: пилот на скромной карте → замер → докупка GPU / переход на vLLM. Не покупайте «с запасом навсегда» без метрик.

Получить оценку проекта

Услуга: Автоматизация бизнес-процессов

Опишите задачу и оставьте телефон, email или Telegram.

Квалификация (помогает сразу дать вилку)

Укажите в тексте телефон, email или @telegram — иначе не сможем ответить.

Форма зависла? Напишите напрямую: contact@bober-systems.ru · Telegram

Telegram Позвонить