Avito Pixel

Дообучение LLM на данных компании: когда нужен fine-tuning, а когда хватит RAG

Основатель: Павел Стасиньский

Обучаем открытые модели (Qwen, Llama, Mistral, T-lite, YandexGPT через Yandex Cloud) на ваших данных: стиль, домен, формат ответа, классификация. Честно говорим, когда дообучение не нужно и задачу решает RAG + промпты. Оценка 1–2 недели, дообучение от 400 000 ₽.

Дообучение LLM решает три класса задач: стиль и формат (модель пишет как ваш отдел), узкий домен (термины, сокращения, внутренние сущности) и специализация (классификация, извлечение, короткие ответы малой моделью). Для «ответов по документам» дообучение обычно не нужно — работает RAG, и мы так и скажем.

Процесс: сначала baseline на RAG и промптах, затем измеряем разрыв на вашей выборке. Если разрыв есть — собираем датасет (обычно 1–10 тысяч примеров), дообучаем LoRA на открытой модели, сравниваем на holdout и в production-условиях.

Инфраструктура: GPU в Yandex Cloud, Selectel, Cloud.ru или ваши серверы; модели Qwen 2.5/3, Llama 3, Mistral, T-lite/T-pro, YandexGPT Fine-tuning. Данные не покидают выбранный контур.

Работаем с компаниями на amoCRM, Битрикс24, 1С, ERP и самописных системах — внедряем поверх текущего контура.

Услуга — для компаний-заказчиков. Субподряд, резюме и предложения услуг рассматриваем только на отдельной странице: Партнёрам .

Типичные проблемы

  • — Модель «не говорит на языке» вашего домена: термины, стиль, формат документов
  • — Промпты разрослись до страниц, качество нестабильно, токены дорогие
  • — Нужна маленькая быстрая модель в контуре вместо большого API — без потери качества на вашей задаче
  • — Подрядчик предлагает «обучить нейросеть на ваших данных» там, где хватило бы поиска по документам

Что вы получаете

  • — Оценка: нужен ли fine-tuning — сравнение RAG, промптов и дообучения на вашей выборке с метриками
  • — Датасет: сбор, очистка, разметка, аугментация из ваших документов, переписки, тикетов — с учётом ПДн и коммерческой тайны
  • — Дообучение: LoRA/QLoRA или полное, на GPU в российском облаке или on-premise; оценка на holdout, сравнение с базовой моделью
  • — Развёртывание: vLLM/TGI, API, мониторинг качества, план переобучения при обновлении данных

Как мы решаем задачу

01

Оценка и baseline

Выборка 100–300 примеров, RAG + промпты, метрики. Решение: дообучать или нет. 1–2 недели.

02

Датасет и обучение

Сбор и разметка, LoRA/QLoRA, эксперименты, holdout. 3–6 недель.

03

Развёртывание

Инференс в контуре, API, мониторинг, регламент переобучения.

Цена и условия

Коммерческие условия услуги
Цена от 500 000 ₽
Срок 28 дн.
Формат Фиксированная смета · удалённо
Состав Разворачиваем языковые модели в вашем контуре, настраиваем интерфейс, ограничения безопасности, мониторинг и интеграции.

Связанные кейсы

RAG-бот по продуктам Kaspersky для сотрудников дистрибьютора 1С

до −50% повторных вопросов по продуктам

На пилотной группе сотрудников дистрибьютора 1С, по внутренней оценке заказчика

Участие в разработке RAG-ассистента по продуктам Kaspersky для сотрудников дистрибьютора, работающего с экосистемой 1С · Пилот и итерации в рамках продуктового контура

Сотрудники быстрее получают ответы по продуктам Kaspersky, меньше повторяют одни и те же вопросы и реже уходят в долгий ручной поиск по базе знаний.

LLM · RAG · JavaScript

внедрение

Автоматизация коммерческих предложений

45 мин → 2–5 мин на КП

Замер на пилоте заказчика: типовые PDF-запросы → готовое КП (до/после)

Архитектура и внедрение контура генерации КП · 4–8 недель до промышленного запуска

Типовое КП собирается за 2–5 минут вместо ~45. Цены и артикулы только из каталога — без выдуманных позиций. Таблица, НДС, условия и скачивание DOCX/PDF.

MySQL · CRM · Python · LLM

300 000 ₽

Частые вопросы

Сколько стоит дообучение LLM?
Оценка — от 150 000 ₽ (часто заканчивается выводом «достаточно RAG»). Дообучение с датасетом и развёртыванием — от 400 000 ₽ плюс GPU-часы.
Сколько данных нужно?
Для стиля и формата — от 500–1 000 примеров; для классификации — от 2 000; для домена — десятки тысяч фрагментов текста. Помогаем собрать из существующих документов.
RAG или fine-tuning?
RAG — когда нужны актуальные факты из документов. Fine-tuning — когда нужны стиль, формат, узкий домен или маленькая быстрая модель. Часто — оба вместе.

Получить оценку проекта

Услуга: Приватный контур языковых моделей

Опишите задачу и оставьте телефон, email или Telegram.

Укажите в тексте телефон, email или @telegram — иначе не сможем ответить.

Форма зависла? Напишите напрямую: contact@bober-systems.ru · Telegram

Telegram Позвонить