Дообучение LLM на данных компании: когда нужен fine-tuning, а когда хватит RAG

Дообучение LLM на данных компании: когда нужен fine-tuning, а когда хватит RAG

Основатель: Павел Стасиньский

Обучаем открытые модели (Qwen, Llama, Mistral, T-lite, YandexGPT через Yandex Cloud) на ваших данных: стиль, домен, формат ответа, классификация. Честно говорим, когда дообучение не нужно и задачу решает RAG + промпты. Оценка 1–2 недели, дообучение от 400 000 ₽.

Оформить заказ Telegram

Дообучение LLM решает три класса задач: стиль и формат (модель пишет как ваш отдел), узкий домен (термины, сокращения, внутренние сущности) и специализация (классификация, извлечение, короткие ответы малой моделью). Для «ответов по документам» дообучение обычно не нужно — работает RAG, и мы так и скажем.

Процесс: сначала baseline на RAG и промптах, затем измеряем разрыв на вашей выборке. Если разрыв есть — собираем датасет (обычно 1–10 тысяч примеров), дообучаем LoRA на открытой модели, сравниваем на holdout и в production-условиях.

Инфраструктура: GPU в Yandex Cloud, Selectel, Cloud.ru или ваши серверы; модели Qwen 2.5/3, Llama 3, Mistral, T-lite/T-pro, YandexGPT Fine-tuning. Данные не покидают выбранный контур.

Кому подходит эта услуга

  • Собственникам и генеральным директорам — процесс тормозит рост, нужен измеримый результат
  • Коммерческим директорам и руководителям отдела продаж — теряются лиды, нет контроля воронки
  • Операционным директорам и руководителям сервиса — ручные операции и переработки сотрудников
  • ИТ- и техническим директорам среднего и крупного бизнеса — нужна интеграция с amoCRM, Битрикс24, 1С и ERP без замены систем

Работаем с компаниями на amoCRM, Битрикс24, 1С, ERP и самописных системах — внедряем поверх текущего контура.

Услуга — для компаний-заказчиков. Субподряд, резюме и предложения услуг рассматриваем только на отдельной странице: Партнёрам .

Типичные проблемы

  • Модель «не говорит на языке» вашего домена: термины, стиль, формат документов
  • Промпты разрослись до страниц, качество нестабильно, токены дорогие
  • Нужна маленькая быстрая модель в контуре вместо большого API — без потери качества на вашей задаче
  • Подрядчик предлагает «обучить нейросеть на ваших данных» там, где хватило бы поиска по документам

Что вы получаете

  • Оценка: нужен ли fine-tuning — сравнение RAG, промптов и дообучения на вашей выборке с метриками
  • Датасет: сбор, очистка, разметка, аугментация из ваших документов, переписки, тикетов — с учётом ПДн и коммерческой тайны
  • Дообучение: LoRA/QLoRA или полное, на GPU в российском облаке или on-premise; оценка на holdout, сравнение с базовой моделью
  • Развёртывание: vLLM/TGI, API, мониторинг качества, план переобучения при обновлении данных

Как мы решаем задачу

01

Оценка и baseline

Выборка 100–300 примеров, RAG + промпты, метрики. Решение: дообучать или нет. 1–2 недели.

02

Датасет и обучение

Сбор и разметка, LoRA/QLoRA, эксперименты, holdout. 3–6 недель.

03

Развёртывание

Инференс в контуре, API, мониторинг, регламент переобучения.

Типичный эффект

−40–80%

ручного труда в целевом процессе

2–8 нед.

до первого промышленного релиза

3–6 мес.

окупаемость при среднем проекте

Цена и условия

Коммерческие условия услуги
Цена от 500 000 ₽
Срок 28 дн.
Формат Фиксированная смета · удалённо
Состав Разворачиваем языковые модели в вашем контуре, настраиваем интерфейс, ограничения безопасности, мониторинг и интеграции.

Связанные кейсы

RAG-бот по продуктам Kaspersky для сотрудников дистрибьютора 1С

до −50% повторных вопросов по продуктам

На пилотной группе сотрудников дистрибьютора 1С, по внутренней оценке заказчика

Сотрудники быстрее получают ответы по продуктам Kaspersky, меньше повторяют одни и те же вопросы и реже уходят в долгий ручной поиск по базе знаний.

LLM · RAG · JavaScript

Автоматизация коммерческих предложений

45 мин → 2–5 мин на КП

По данным пилотного процесса заказчика на типовых запросах из PDF

Типовое КП собирается за 2–5 минут вместо ~45. Цены и артикулы только из каталога — без выдуманных позиций. Таблица, НДС, условия и скачивание DOCX/PDF.

MySQL · CRM · Python · LLM

300 000 ₽

Частые вопросы

Сколько стоит дообучение LLM?
Оценка — от 150 000 ₽ (часто заканчивается выводом «достаточно RAG»). Дообучение с датасетом и развёртыванием — от 400 000 ₽ плюс GPU-часы.
Сколько данных нужно?
Для стиля и формата — от 500–1 000 примеров; для классификации — от 2 000; для домена — десятки тысяч фрагментов текста. Помогаем собрать из существующих документов.
RAG или fine-tuning?
RAG — когда нужны актуальные факты из документов. Fine-tuning — когда нужны стиль, формат, узкий домен или маленькая быстрая модель. Часто — оба вместе.

Оформить заказ

Это форма заказа услуги. Укажите контакты — подтвердим состав работ и сроки, затем приступим.

Заполните поля ниже, чтобы оформить заказ. Это не запрос оценки — для оценки используйте кнопку «Получить оценку».

Оформить заказ: Приватный контур языковых моделей

Заявка на заказ услуги. Ответим в течение 4 рабочих часов и подтвердим следующий шаг по заказу.

Напишите в свободной форме — что заказываете и как с вами связаться.

Получить оценку проекта

Опишите процесс, который нужно автоматизировать. Ответим в течение 4 рабочих часов, после 30-минутного созвона пришлём план и вилку бюджета за 24 часа.

Ответим в течение 4 рабочих часов. После 30-минутного созвона пришлём предварительный план и вилку бюджета в течение 24 часов.

Напишите в свободной форме — что нужно сделать и как с вами связаться.

Telegram Позвонить