1. Сервер и сеть
Фиксируем: GPU/CPU, RAM, диск под модели и индекс, сеть (VPN/VLAN), кто администрирует. Без этого «локальное развёртывание» разваливается на первой неделе.
от 150 000 ₽
аудит или пилот
2–4 нед.
типовой пилот
смета до старта
фиксированный scope
Гайд
Как развернуть LLM локально
Основатель: Павел Стасиньский
Практические этапы: железо → runtime → модель → доступ → мониторинг. Без «просто поставьте Ollama».
Практические этапы: железо → runtime → модель → доступ → мониторинг. Без «просто поставьте Ollama».
Фиксируем: GPU/CPU, RAM, диск под модели и индекс, сеть (VPN/VLAN), кто администрирует. Без этого «локальное развёртывание» разваливается на первой неделе.
Ставим inference (vLLM / Ollama / аналог), OpenAI-совместимый endpoint, выбранные веса. Проверяем latency и стабильность под нагрузкой отдела.
Установка на вашем сервере или под ключ — /lokalnye-llm. GPU-эталон — /personal-ai-server.
Работаем с компаниями на amoCRM, Битрикс24, 1С, ERP и самописных системах — внедряем поверх текущего контура.
Услуга — для компаний-заказчиков. Субподряд, резюме и предложения услуг рассматриваем только на отдельной странице: Партнёрам .
Типичные проблемы
- Поставили Ollama — никто не пользуется
- Нет ролей, журнала и бэкапов
- Модель есть, документов в ответе нет
- IT не понимает, как сопровождать контур
Что получите
- Схема контура и требования к серверу
- Runtime + API + чат для сотрудников
- Опционально: локальный RAG
- Runbook для IT и критерии приёмки
Как идём по шагам
2. Runtime и модель
Ставим inference (vLLM / Ollama / аналог), OpenAI-совместимый endpoint, выбранные веса. Проверяем latency и стабильность под нагрузкой отдела.
3. Доступ и RAG
Чат с ролями, SSO по ТЗ, журнал запросов. Если нужны ответы по регламентам — подключаем локальный RAG с цитатами (см. /rag-pod-klyuch).
4. Передача IT
Мониторинг host/GPU, бэкапы весов и индекса, процедура обновления модели, эскалация сбоев. Без runbook контур «живёт» только на подрядчике.
Чеклист
- Требования к GPU и сети согласованы
- API и чат доступны тестовой группе
- Есть журнал и бэкап
- IT принял runbook
Ориентир
от 150 000 ₽
аудит или пилот
2–4 нед.
типовой пилот
смета до старта
фиксированный scope
Цена и условия
| Цена | от 500 000 ₽ |
|---|---|
| Срок | 21 дн. |
| Формат | Фиксированная смета · удалённо |
| Состав | Аудит процессов, настройка автоматизации, интеграция с CRM и документами, обучение команды. |
Частые вопросы
- Это гайд или услуга?
- Гайд — практика и чеклист. Внедрение — отдельный проект со сметой. После разбора процесса пришлём план и вилку бюджета.
- С чего начать?
- С бесплатного разбора одного процесса на 30 минут, затем аудит от 150 000 ₽ при необходимости.
Заявка
Получить оценку проекта
Опишите процесс, который нужно автоматизировать. Ответим в течение 4 рабочих часов, после 30-минутного созвона пришлём план и вилку бюджета за 24 часа.
Услуга: Автоматизация бизнес-процессов