Рабочая схема внедрения LLM в российский бизнес в 2026 году без нарушения закона: берём open-source модель (Qwen3, Llama 3, DeepSeek, Saiga) → дообучаем её под свои данные методом LoRA → сажаем на собственный или арендованный в РФ GPU-сервер (Timeweb: RTX 4090/A100/H100, почасовая оплата от ~75 ₽/час) → подключаем к процессам. Данные не покидают периметр, трансграничной передачи нет — значит, 152-ФЗ и режимы тайны соблюдены. Пилот под ключ — порядка 1,5–3 млн ₽ за 2–3 месяца; окупается за счёт того, что поиск по документам, обработка заявок и поддержка ускоряются в разы. Ниже — какие модели брать, какое железо, во что это реально стоит и как считается законность.
Зачем свой сервер, а не API зарубежной модели
Подписка на ChatGPT, Claude или API зарубежных LLM — это удобно для личного использования, но в корпоративном контуре в России упирается в закон. Когда вы отправляете запрос в API иностранной модели, ваши данные уходят за рубеж. Если среди них — персональные данные россиян, коммерческая, банковская или медицинская тайна, это уже требует отдельных оснований по 152-ФЗ и часто просто недопустимо.
Свой сервер решает проблему принципиально: модель физически работает на железе внутри вашего периметра (или в российском ЦОД), данные никуда не передаются. Нет передачи — нет нарушения. К этому плюсуется контроль: вы сами решаете, кто имеет доступ к модели, какие логики ведутся, как обновляются веса.
Это не паранойя, а требование времени. Банки, медицина, госкомпании, оборонпром, крупный B2B — для них внешний API часто запрещён внутренними политиками и регулятором. Свой инференс — единственный путь. И с появлением сильных open-source моделей этот путь стал доступен не только корпорациям.
Какие open-source модели доступны в 2026 году
Раньше «своя LLM» означала «слабая LLM». Сейчас — нет. Открытые модели догнали закрытые на большинстве задач, а по русскому языку некоторые и обошли. Главные семейства, которые мы используем:
| Модель | Размеры | Сильна в | Особенности для РФ |
|---|---|---|---|
| Qwen3 (Alibaba) | 0.6B – 235B (MoE A22B) | русский, рассуждения, инструменты | лучший открытый русский; дообучаем |
| Llama 3 (Meta) | 8B, 70B, 405B | универсальная, код, длинный контекст | классика open-source |
| DeepSeek R1 / V3.2 | 70B+ (MoE) | пошаговые рассуждения, математика | сильный «reasoning» |
| Mistral / Mixtral | 7B – 8x22B (MoE) | эффективность, European | легкая, дешёвая в инференсе |
| Saiga (Ilya Gusev) | на базе Llama/Qwen | русский чат, диалог | дообучена на русские диалоги |
Все эти модели имеют открытые веса: их можно бесплатно скачать, развернуть у себя, изучить и дообучать. Лицензии разрешают коммерческое использование (с оговорками — надо проверять под свой кейс).
Выбор под задачу:
- Ассистент по документам, поддержка, ответы по регламентам — хватает 8–32B (Qwen3, Saiga). Работает на одной-двух RTX 4090.
- Сложные рассуждения, аналитика, генерация длинных текстов — 70B+ (Llama 3 70B, Qwen3 72B, DeepSeek). Нужно серьёзное железо.
- Специфические задачи (право, медицина, финансы) — любая базовая + дообучение на ваших данных.
Дообучение: как сделать модель «своей»
Скачанная модель знает мир в общем, но не знает вашу компанию. Чтобы она отвечала в ваших терминах, по вашим регламентам и в вашем стиле — её дообучают. Полное дообучение (fine-tuning) модели на 70B параметров требует кластера и стоит дорого. Но есть дешёвый путь — LoRA.
LoRA (Low-Rank Adaptation) и её квантованная версия QLoRA — метод, при котором обучают не все миллиарды параметров модели, а небольшую «надстройку» (адаптер) поверх замороженных весов. Плюсы:
- Дешевле в 10–100 раз. Дообучить 70B на LoRA можно на одной-двух GPU за дни, а не на кластере за недели.
- Меньше данных. Хватает нескольких тысяч примеров в вашем домене, а не миллионов.
- Безопасность. Базовые веса не меняются — адаптер отдельный, его можно отключить или заменить.
Стек для этого — открытый и бесплатный: Hugging Face PEFT + BitsAndBytes (квантование), фреймворки transformers / trl. Технологически это рутинная работа ML-инженера, а не исследовательская задача.
Что даёт дообучение на практике:
- Модель перестаёт путать вашу терминологию и начинает использовать её корректно.
- Ответы по вашим регламентам становятся точнее — модель «знает» ваши правила.
- Стиль и формат ответов соответствуют вашим стандартам.
Железо: купить или арендовать
Для инференса LLM нужна видеокарта с большим объёмом памяти — модель и её контекст живут в VRAM. От объёма памяти зависит, какой размер модели и какой контекст вы потянете.
Ориентир по памяти для квантованных моделей (4–8 бит):
- 8B модель — 8–12 ГБ VRAM (хватает одной RTX 4090 / A5000).
- 32B — 24–40 ГБ (RTX 4090 24 ГБ впритык, лучше A6000 48 ГБ).
- 70B — 40–80 ГБ (нужно 2× A6000 или 1× A100 80 ГБ).
- 405B — несколько GPU (кластер).
Два пути получения железа:
1. Аренда. Подходит для старта, пилотов и непостоянной нагрузки. Платите только пока используете. Главный российский провайдер — Timeweb Cloud.
2. Покупка своего сервера. Выгодна при постоянной круглосуточной нагрузке: за 6–12 месяцев аренды набегает сумма, сопоставимая с покупкой. Плюс полный физический контроль (важно для самых чувствительных данных и КИИ).
Тарифы Timeweb Cloud на GPU-серверы
Timeweb Cloud — крупнейший российский облачный провайдер с GPU-серверами для ML/AI. Оплата почасовая (тариф считается за месяц, списания раз в час), ЦОДы в Москве и Санкт-Петербурге, есть managed Kubernetes и S3-хранилище. Доступные видеокарты (по данным блога Timeweb о GPU и страницы услуг):
| GPU | Память | Типичный кейс | Ориентир цены/час* |
|---|---|---|---|
| RTX 4090 | 24 ГБ GDDR6X | инференс 8–32B, дообучение LoRA | ~75 ₽ |
| RTX 5090 | 32 ГБ GDDR6X | инференс 32B с большим контекстом | ~120–150 ₽ |
| RTX A6000 | 48 ГБ GDDR6 | инференс 70B (квант.), тяжёлое дообучение | ~200–250 ₽ |
| Tesla A100 | 80 ГБ HBM2 | инференс 70B полно, batch-инференс | ~350–500 ₽ |
| Tesla H100 | 80 ГБ HBM2 | максимальная производительность, обучение | ~250–400 ₽ |
| RTX A5000 / A30 | 24 ГБ | бюджетный инференс младших моделей | ~50–70 ₽ |
| Tesla T4 | 16 ГБ | лёгкий инференс, вывод | ~20–40 ₽ |
* Цены — рыночный ориентир (Timeweb формирует точные тарифы под конфигурацию по запросу). Проверяйте актуальные на timeweb.cloud/services/gpu.
Практический ориентир: для большинства корпоративных задач (ассистент по документам, поддержка, обработка заявок) достаточно 1–2 серверов с RTX 4090 или одного A6000/A100. Это даёт 75–500 ₽/час на аренде или, при загрузке 24/7, порядка 55–360 тыс. ₽/мес.
Расчёт внедрения: из чего складывается смета
Возьмём типовой пилот: внутренний ИИ-ассистент по регламентам и документам (RAG), который отвечает сотрудникам за секунды со ссылкой на источник. Это самая частая и быстро окупаемая задача.
| Этап | Что делаем | Порядок стоимости | Срок |
|---|---|---|---|
| Аудит и подбор модели | выбор модели и размера под задачу и железо | 100–200 тыс. ₽ | 1–2 нед |
| Сбор и подготовка данных | загрузка и индексация документов, разметка примеров для дообучения | 200–400 тыс. ₽ | 2–3 нед |
| Дообучение (LoRA/QLoRA) | адаптация модели под домен и стиль | 300–600 тыс. ₽ | 1–3 нед |
| RAG-слой и интеграция | векторный поиск по документам, API, доступ по ролям | 500–900 тыс. ₽ | 3–6 нед |
| Тестирование и пуск | проверка качества, безопасности, пилотная эксплуатация | 200–400 тыс. ₽ | 2–3 нед |
| Итого пилот | 1,3–2,5 млн ₽ | 2–3 мес | |
| Инфраструктура (операционно) | аренда GPU ~1–2× RTX 4090 или A6000 | ~55–150 тыс. ₽/мес | постоянно |
Если данные чувствительные и регламент требует своего железа — вместо аренды покупка сервера (~500 тыс. – 1,5 млн ₽ за конфигурацию с 1–2× RTX 4090 или A6000) включается в капекс. Как системно оценивать окупаемость ИИ-проектов — в нашем расчёте окупаемости.
Как соблюдаем законодательство
Главное преимущество своей модели на своём/российском GPU — это соответствие закону по построению, а не «обход». Разберём по пунктам.
152-ФЗ «О персональных данных». Статья 18 часть 5 требует хранить ПДн россиян в базах на территории РФ. Когда модель крутится на сервере в российском ЦОД или у вас в офисе, трансграничной передачи нет — значит, нет и нарушения. Контрагенту не нужно получать отдельные согласия на передачу за рубеж.
149-ФЗ «Об информации». Общие правила оборота информации — соблюдены, данные под вашим контролем.
Режимы тайны. Банковская, коммерческая, медицинская, налоговая тайна запрещают передавать защищаемые данные третьим лицам. Своё железо = модель не «третье лицо», данные остаются у вас.
Реестр отечественного ПО (Минцифры). Для госконтракта и части объектов КИИ требуется ПО из реестра. Open-source модель сама по себе в реестр не входит, но это вопрос к упаковке решения, а не к технологии — для госсектора есть пути (партнёрство с реестровым вендором, сертификация).
КИИ (123-ФЗ). Если объект относится к критической информационной инфраструктуре, требования жёстче — и локальный инференс в своём контуре часто единственно возможный вариант.
Итог: локальный инференс open-source модели — это не «хитрость», а законный и часто единственный путь для чувствительных данных в РФ. Подробнее про приватность при работе ИИ — в ИИ и персональные данные.
Что в результате: где сокращаются расходы и сроки
Главная ценность — не «у нас есть ИИ», а измеримое сокращение рутины. Где это работает быстрее всего:
- Поиск по регламентам, договорам, инструкциям. Сотрудник тратит на ответ от минут до часов; ИИ-ассистент с RAG — секунды со ссылкой на источник. При сотнях запросов в день экономия — десятки часов человеко-времени ежедневно.
- Первая линия поддержки. До 40–70% типовых обращений закрываются ИИ до человека. Люди разбирают только сложное.
- Обработка заявок и документов. Извлечение данных из документов, маршрутизация, первичная проверка — ускоряется в разы.
- Производственные сценарии. Предиктивное обслуживание, контроль качества — снижают простои и брак (см. наши кейсы ИИ на производстве).
В денежных терминах: пилот за 1,5–2,5 млн ₽ обычно окупается за 6–12 месяцев на одной только экономии времени сотрудников — без учёта роста качества и скорости. Дальше модель работает «бесплатно» (только аренда/электричество железа).
Резюме
Внедрение своей LLM в России в 2026 году — это инженерная, а не исследовательская задача: open-source модель (Qwen3, Llama 3, DeepSeek, Saiga) + дообучение LoRA + свой или арендованный в РФ GPU (Timeweb: от ~75 ₽/час) + интеграция в процессы. Данные остаются внутри периметра — 152-ФЗ и режимы тайны соблюдены. Пилот стоит порядка 1,5–2,5 млн ₽ и занимает 2–3 месяца, окупается за счёт того, что рутинные задачи ускоряются в разы. Если у вас есть документация, обращения или процессы, которые съедают человеко-часы, — скорее всего, это окупится.
Обсудить внедрение под вашу задачу — услуга «Внедрение ИИ». Больше по теме — какую LLM выбрать, стоимость внедрения ИИ-ассистента и кейсы ИИ на производстве.
Источники
- Timeweb Cloud — GPU-серверы в аренду
- Timeweb — о серверах с GPU NVIDIA
- GPU-серверы 2026: H100, A100, RTX 4090 — сравнение провайдеров и цен
- 10 Best Open Source LLMs You Can Fine-Tune — Azumo
- Федеральный закон № 152-ФЗ «О персональных данных»
- Федеральный закон № 149-ФЗ «Об информации…»
- Реестр отечественного ПО — Минцифры
Комментарии · 0