Spec и eval set
Сценарии, JSON schema, golden examples, метрики качества.
LLM Engineering
Разработка LLM-приложений
Основатель: Павел Стасиньский
От прототипа до промышленного запуска: API, agents, eval и интеграции — не demo на Jupyter.
Разработка LLM-приложений — инженерная дисциплина: версии prompts, eval на реальных данных, structured output, fallback и observability. Bober AI Systems строит промышленный сервисы, а не одноразовые скрипты.
Стек: Python/TypeScript, LangChain/LangGraph, GigaChat или private LLM API, PostgreSQL для state, Redis для cache. Agents вызывают CRM, 1С, search — через MCP или REST.
Каждый LLM-шаг покрываем eval-набором: input → expected JSON → regression в CI. Без этого каждое обновление модели — лотерея.
Примеры: генератор КП с catalog grounding, классификатор тикетов, copilot для менеджера в CRM, multi-step agent для согласования документов.
Срок MVP — 3–5 недель. NDA, on-premise inference — стандарт. Бюджет — от 500 000 ₽.
Discovery помогает отделить «нужен LLM» от «достаточно regex» — экономим бюджет клиента.
Для кого
Кому подходит эта услуга
- —Собственникам и генеральным директорам — процесс тормозит рост, нужен измеримый результат
- —Коммерческим директорам и руководителям отдела продаж — теряются лиды, нет контроля воронки
- —Операционным директорам и руководителям сервиса — ручные операции и переработки сотрудников
- —ИТ- и техническим директорам среднего и крупного бизнеса — нужна интеграция с amoCRM, Битрикс24, 1С и ERP без замены систем
Работаем с компаниями на amoCRM, Битрикс24, 1С, ERP и самописных системах — внедряем поверх текущего контура.
Услуга — для компаний-заказчиков. Субподряд, резюме и предложения услуг рассматриваем только на отдельной странице: Партнёрам .
Почему LLM-проекты застревают
- Промпты работают в demo, но ломаются на реальных данных
- Нет structured output — парсинг ответов ненадёжен
- Latency и cost не учтены — система не выдерживает нагрузку
- Отсутствует eval и версионирование prompts
Что разрабатываем
- LLM-сервис с API, auth и мониторингом
- Prompt/version management и eval pipeline
- Agents на LangGraph с tool calling
- Интеграции CRM, документов, мессенджеров
Процесс разработки
Prototype
Быстрый POC на sample data, проверка latency и cost.
Production code
API, retries, caching, logging, feature flags.
Handover
Документация, runbook, обучение dev-команды клиента.
LLM app stack
- API layer: FastAPI / Next.js routes, OpenAI-compatible client
- Orchestration: LangGraph state machine, tool registry
- Storage: conversation state, audit log, prompt versions
- Eval: pytest + LLM judge / exact match on structured fields
- Deploy: Docker, K8s, CI/CD with eval gate
Результат
3–5 нед.
MVP в промышленной эксплуатации
−60%
время на ручную обработку в целевом сценарии
CI eval
регрессия качества при каждом релизе
Цена и условия
| Цена | от 500 000 ₽ |
|---|---|
| Срок | 28 дн. |
| Формат | Фиксированная смета · удалённо |
| Состав | Архитектура, разработка, тестирование и передача команде. |
Связанные кейсы
Автоматизация коммерческих предложений
45 мин → 2–5 мин на КП
По данным пилотного процесса заказчика на типовых запросах из PDF
Типовое КП собирается за 2–5 минут вместо ~45. Цены и артикулы только из каталога — без выдуманных позиций. Таблица, НДС, условия и скачивание DOCX/PDF.
RAG-бот по продуктам Kaspersky для сотрудников дистрибьютора 1С
до −50% повторных вопросов по продуктам
На пилотной группе сотрудников дистрибьютора 1С, по внутренней оценке заказчика
Сотрудники быстрее получают ответы по продуктам Kaspersky, меньше повторяют одни и те же вопросы и реже уходят в долгий ручной поиск по базе знаний.
FAQ
- LangChain или свой код?
- LangGraph для agents. Тонкая логика — чистый Python без лишних абстракций.
- Какая модель?
- GigaChat для RU enterprise. Open-source — при on-premise. Выбор на Discovery.
- Structured output?
- JSON mode, Pydantic validation, repair loop при parse errors.
- Cost control?
- Caching, smaller models для простых шагов, batch где возможно.
- Передача кода?
- Да. Repo клиента, документация, pair programming на handover.
- Бюджет?
- От 500 000 ₽ за MVP. Agents с интеграциями — от 500 000 ₽.
Заказ услуги
Оформить заказ
Это форма заказа услуги. Укажите контакты — подтвердим состав работ и сроки, затем приступим.
Заполните поля ниже, чтобы оформить заказ. Это не запрос оценки — для оценки используйте кнопку «Получить оценку».
Оценка
Получить оценку проекта
Опишите процесс, который нужно автоматизировать. Ответим в течение 4 рабочих часов, после 30-минутного созвона пришлём план и вилку бюджета за 24 часа.