Avito Pixel
Установка и настройка локальных ИИ-моделей в России

Установка и настройка локальных ИИ-моделей в России

Основатель: Павел Стасиньский

Узкий офер: поставить runtime и модель на вашем сервере или ИИ-станции (Ollama, Open WebUI, нужная модель). Не заменяет полный пакет «локальный LLM под ключ» — он на /lokalnye-llm. От 150 000 ₽ + оборудование.

Эта страница — про установку и запуск моделей: runtime, интерфейс, доступы. Если нужен полный локальный LLM под ключ в России (GPU + база знаний + 1С/CRM + SLA) — канонический офер на /lokalnye-llm.

Локальные ИИ-модели дают компании свой ChatGPT-подобный контур на компьютере, станции или сервере, без обязательной отправки данных в зарубежные облака. Bober AI Systems ставит Ollama / llama.cpp / vLLM, Open WebUI / LM Studio и модели Qwen / DeepSeek / Llama — удалённо или с выездом, от 150 000 ₽ + оборудование.

Какие локальные ИИ-модели можно установить

Ollama, LM Studio, Open WebUI и llama.cpp — типовой стек для запуска ChatGPT-подобных систем на своём компьютере или сервере. Для бизнеса дополняем ролями, API и при необходимости production-runtime.

Старт и сервер

Ollama

Простой способ установки и запуска языковых моделей на Windows, Linux и macOS. База пилота и многих корпоративных станций.

GUI на ПК

LM Studio

Графический интерфейс для скачивания, запуска и тестирования моделей на рабочем компьютере. Удобен для оценки модели до серверного контура.

Чат как ChatGPT

Open WebUI

Веб-интерфейс в стиле ChatGPT. Подключается к Ollama и совместимым серверам — типовой UI для сотрудников.

GGUF / CPU

llama.cpp

Производительный движок для квантованных моделей GGUF, в том числе на машинах без мощной видеокарты.

Какие модели стоит использовать

Для России особенно важна поддержка русского языка. Подбираем модель под задачу и объём VRAM — не «самую большую», а ту, что тянет железо и сценарий.

Qwen

Универсальные задачи, программирование, сильный русский язык — частый выбор для РФ.

DeepSeek

Логика, анализ, программирование. Локальный контур — /deepseek-lokalno.

Llama

Универсальный помощник, широкий экосистемный tooling.

Mistral

Работа с текстами и анализ данных, компактные и средние размеры.

Gemma

Компактные модели для локального использования и слабого железа.

Требования к компьютеру

Размер модели и скорость зависят от оперативной памяти, видеокарты и типа квантования. Ниже — ориентир; корпоративный sizing — GPU для LLM.

Конфигурация Возможности
16 ГБ RAM, без GPU Небольшие модели 3–8B (часто через llama.cpp / кванты)
32 ГБ RAM, 8–12 ГБ VRAM Модели 7–14B — типичный пилот отдела
64 ГБ RAM, 16–24 ГБ VRAM Модели 14–32B, комфортный чат и лёгкий RAG
128 ГБ RAM, 48 ГБ VRAM Более крупные модели, несколько сервисов, корпоративный контур

Как заказать установку по России

Удалённая установка, выезд инженера, сборка ИИ-станции или корпоративный ИИ-сервер. Не ограничиваемся Москвой — работаем онлайн по РФ и СНГ.

Удалённая установка

По России и СНГ: VPN / RDP / ваш jump-host. Поднимаем Ollama / vLLM, API, веб-интерфейс и доступы без выезда.

Выезд инженера

Когда нужен монтаж в серверной, air-gapped или согласование с ИБ на площадке. Согласуем город и окно работ.

Сборка ИИ-станции

Рабочая станция или мини-сервер с GPU: модель, Open WebUI / чат, мониторинг. Для офиса и пилота отдела.

Корпоративный ИИ-сервер

Production-контур: sizing GPU, runtime, роли, журнал, RAG и стыковка с 1С / CRM. Смета работ и железа раздельно.

Полный хаб контура: локальные LLM под ключ .

Зачем ставить локальные модели у себя

По всей России, не только Москва

Онлайн-развёртывание и сопровождение. Выезд — по согласованию. Офис в Москве, проекты по РФ и СНГ.

Модель остаётся у вас

On-premise / закрытый контур: документы и ПДн не уходят в ChatGPT и зарубежные облака.

Qwen, Llama, DeepSeek и др.

Подбираем модель под задачу и VRAM. Runtime: Ollama, vLLM, SGLang — не демо «на коленке».

API, веб-интерфейс, RAG

OpenAI-совместимый API, Open WebUI / корпоративный чат, при необходимости RAG по вашим документам.

Один подрядчик

Железо, установка, доступы, обучение сотрудников и сопровождение — без зоопарка подрядчиков.

Прозрачная смета

Работы Bober и оборудование разделены. Пилот и production — с понятной приёмкой.

От задачи до работающей модели

Что входит в установку и настройку

01. Аудит и sizing

Сценарии, число пользователей, данные, требования ИБ. Подбор GPU и сервера под модели и нагрузку.

02. Установка runtime и моделей

Ollama / vLLM / SGLang, Qwen, Llama, DeepSeek и др. Квантование, OpenAI-совместимый API, smoke-тесты.

03. Интерфейсы и доступы

Веб-чат, роли, при необходимости Active Directory / LDAP / SSO, журнал запросов.

04. RAG и интеграции

База знаний по PDF/Word/Excel, стыковка с 1С, CRM, Битрикс24 — по ландшафту заказчика.

05. Передача и сопровождение

Документация, обучение сотрудников, runbooks, опциональный LLMOps и мониторинг.

Ориентировочная стоимость установки

Вилки по опубликованным корпоративным предложениям и нашему оферу. Точная смета — после разбора задачи и железа. *работы; оборудование отдельно.

Услуга Стоимость

Базовая установка локальной модели

сервер / станция заказчика; железо отдельно

от 150 000 ₽*

Настройка Ollama и Open WebUI

API, доступы, smoke-тесты

входит в базовый контур

Установка RAG по документам

корпус + цитаты + права; см. /rag-pod-klyuch

от 300 000 ₽*

Корпоративный ИИ-пилот

2–4 недели, приёмка на ваших сценариях

от 150–300 тыс. ₽*

ИИ-сервер / станция под ключ

работы + ориентир по готовым станциям; GPU в смете

от 390 000 ₽*

Корпоративная ИИ-инфраструктура

несколько узлов, ИБ, интеграции, LLMOps

от 1,25 млн ₽*

Пакеты установки локальных ИИ в 2026

От пилота на вашем сервере до ИИ-станции и корпоративной инфраструктуры. Железо — отдельно.

УСТАНОВКА И ПИЛОТ

от 150 000 ₽ + оборудование

  • — Удалённая установка модели и runtime
  • — OpenAI-совместимый API и веб-интерфейс
  • — Обучение 1–2 админов / ключевых пользователей
  • — Срок: 2–4 недели · железо отдельно · = пакет «Базовое» на /lokalnye-llm
Запросить КП

КОРПОРАТИВНЫЙ LLM + RAG

от 300 000 ₽ + оборудование

  • — RAG по документам компании
  • — Роли, журнал, стыковка 1С / CRM по ТЗ
  • — Удалённо или с выездом инженера
  • — Срок: 3–6 недель · = пакет «Корпоративный» на /lokalnye-llm
Запросить КП

ENTERPRISE / ЗАКРЫТЫЙ КОНТУР

от 800 000 ₽ + оборудование

  • — Закрытый контур / air-gapped, несколько подразделений
  • — Мониторинг, LLMOps, промышленный запуск
  • — Сборка станции или корпоративного сервера — в смете отдельно
  • — Те же цифры, что Enterprise на /lokalnye-llm
Запросить КП

Укажите: город / регион, удалённо или выезд, есть ли сервер/GPU, какие модели нужны (Qwen, Llama, DeepSeek…), нужен ли RAG и 1С/CRM, требования ИБ. Оборудование считаем отдельно.

Как проходит установка

01

Уточняем задачу

Регион, контур (удалённо / выезд), данные, число пользователей, есть ли уже GPU.

02

Фиксируем конфигурацию

Модели, runtime, железо, смета работ. NDA до обмена материалами.

03

Разворачиваем

Установка на вашем сервере или ИИ-станции: модель, API, интерфейс.

04

Подключаем знания и системы

RAG, 1С / CRM — если входят в объём. Тесты приёмки.

05

Передаём и сопровождаем

Обучение, документация. Далее — поддержка по договору.

Что обычно уточняют до договора

Мы не в Москве — как будете ставить?

Через ваш VPN, RDP или jump-host. Выезд — если без него не обойтись. География по РФ и СНГ для удалённой работы не ограничена.

Нам нужен только чат или сразу интеграции?

Можно начать с чата и API. Если нужны ответы по файлам или запись в 1С/CRM — это следующий слой: RAG, связка с 1С/CRM. Полная картина — /lokalnye-llm.

Можно ли без интернета на сервере?

Да. Модель работает внутри сети; обновления — через зеркало или канал, который согласует ИБ. Подробнее — закрытый контур и Secure AI.

Что написать в заявке, чтобы быстрее посчитать?

Город, удалённо или выезд, есть ли уже GPU, для чего нужен ИИ (чат, документы, 1С), сколько людей будет пользоваться, есть ли жёсткие требования ИБ.

локальные LLM · закрытый контур · GPU · RAG

Один подрядчик — от пилота до сервера

Установка, настройка, RAG, интеграции и сопровождение по всей России. Считаем смету, ставим на вашем железе или собираем станцию — и передаём команде.

Когда нужна установка локальных ИИ-моделей

  • — Нужна своя ИИ-инфраструктура без зависимости от зарубежных API и валютных тарифов
  • — Данные нельзя отдавать в ChatGPT и зарубежные облака
  • — Нужен исполнитель по России: удалённо, с выездом или сборка ИИ-станции
  • — Требуются Ollama / Open WebUI / vLLM и модели с русским языком — без полного enterprise-пакета сразу

Что получает компания

  • — Рабочая локальная модель на ПК, станции или сервере заказчика
  • — Стек: Ollama / Open WebUI / LM Studio / llama.cpp / vLLM — по задаче
  • — По ТЗ: RAG по документам, 1С / CRM, закрытый контур
  • — Обучение сотрудников и опциональное сопровождение

Как ставим локальные модели

01

Разбор и смета

Регион, контур, модели, железо. Фиксируем объём до старта. Базовый пилот — от 150 000 ₽ + оборудование.

02

Установка в вашем контуре

Удалённо или на площадке: runtime, модель, API, веб-интерфейс. Срок типового пилота — 2–4 недели.

03

Знания, системы, передача

RAG и 1С/CRM по ТЗ, обучение, документация. Корпоративный LLM+RAG — от 300 000 ₽; Enterprise / закрытый — от 800 000 ₽; железо отдельно.

Контур простым языком

  • — Площадка: ПК / ИИ-станция / сервер / ЦОД → удалённо или с выездом
  • — Стек: Ollama · LM Studio · Open WebUI · llama.cpp · при нагрузке vLLM / SGLang
  • — Модели: Qwen, DeepSeek, Llama, Mistral, Gemma — с упором на русский язык
  • — Доступ: OpenAI-совместимый API, веб-чат, роли / AD / LDAP
  • — Знания и системы: RAG, 1С / CRM · ИБ: on-premise / air-gapped

Вопросы заказчиков

Вы только из Москвы выезжаете или можете удалённо?
Обычно ставим удалённо — по всей России и СНГ. Если нужен человек в серверной или air-gapped, согласуем выезд. Офис в Москве — для встреч и части on-site.
Нам хватит просто Ollama и чата для сотрудников?
Да, так часто и начинаем: Ollama, модель, Open WebUI, доступы и короткая документация. Это пилот с приёмкой, не «контейнер за вечер». Ориентир — от 150 000 ₽ плюс железо.
Чем это отличается от полного внедрения под ключ?
Здесь упор на установку и запуск: runtime, модель, интерфейс, доступы. Полный контур с пакетами, RAG, 1С/CRM и сопровождением — на /lokalnye-llm. Можно начать с установки и нарастить позже.
Ollama, LM Studio или что-то ещё — что обычно ставите?
На сервере чаще Ollama + Open WebUI. LM Studio удобен, чтобы быстро пощупать модель на ПК. На слабом железе — llama.cpp. Если пользователей много — vLLM или SGLang. Выбор фиксируем после разбора задачи.
Какую модель лучше взять под русский язык?
Чаще всего Qwen — хорошо держит русский и код. DeepSeek — если важны логика и разбор. Llama, Mistral, Gemma — по сценарию и объёму памяти. Считаем под ваше железо: /gpu-dlya-llm.
Хватит ли нашего компьютера или сервера?
Грубо: 16 ГБ RAM без GPU — небольшие модели; с 8–12 ГБ видеопамяти уже комфортный пилот; от 24–48 ГБ VRAM — крупнее и несколько сервисов. Точнее скажем после списка задач. Подбор карты — /gpu-dlya-llm.
Нужны ответы по нашим документам — это отдельно?
Да, это уже контур с базой знаний. Обычно от 300 000 ₽; подробный production-офер — /rag-pod-klyuch. В смету входят индекс, ссылки на источники и права доступа.
Можно купить готовую станцию, а не собирать самим?
Можно. Подбираем конфигурацию, организуем поставку через партнёров и ставим софт. Ориентир «станция / сервер под ключ» — от 390 000 ₽, работы и железо в смете раздельно. Пример контура — /personal-ai-server.
У нас уже есть сервер — можно на нём?
Да, так чаще всего и делаем. Смотрим память, диск и видеокарту; если не тянет — предложим докупить GPU или станцию. Без выхода в интернет — через закрытый контур.
Данные уйдут в ChatGPT или другое облако?
В локальном контуре — нет: модель крутится у вас. Внешние ИИ-API не подключаем, если это не согласовано отдельно. Схему сети и журналы можно пройти с вашей ИБ до старта.

Получите расчёт установки локальных ИИ

Услуга: Локальные LLM для бизнеса под ключ

Опишите задачу и оставьте телефон, email или Telegram.

Квалификация (помогает сразу дать вилку)

Укажите в тексте телефон, email или @telegram — иначе не сможем ответить.

Форма зависла? Напишите напрямую: contact@bober-systems.ru · Telegram

Telegram Позвонить