Каждая третья российская компания в 2026 году хотя бы раз пересчитывала, не увести ли ИИ с облака на собственный сервер, — такая оценка напрашивается из наших запросов на внедрение. Причина не только в экономии: с требованиями 152-ФЗ к персональным данным зарубежный API превращается в юридический риск. Хорошая новость: локальные модели догнали облачные настолько, что на типовых задачах разница в качестве почти незаметна. Разберём, когда это правда, а когда — самообман.
Локальная модель простыми словами
Облачный API работает так: вы отправляете текст по интернету, ответ возвращается с чужих серверов. Локальная модель — та же нейросеть, но установленная на ваш сервер: данные не покидают контур компании. Открытые модели — Qwen, Llama, Mistral, DeepSeek-R1 и их дистилляты — распространяются свободно: веса скачиваются и запускаются на своём железе без подписки и лимитов.
152-ФЗ и данные: главный аргумент для России
- Персональные данные граждан РФ должны обрабатываться на территории России; отправка их в зарубежный API — это фактически передача данных третьей стороне, со всеми последствиями по 152-ФЗ.
- Коммерческая тайна, договоры, база клиентов, переписка: утечка через провайдера облака бьёт и по репутации, и по закону — а контролировать её вы не можете.
- Локальная модель — самый «чистый» сценарий: данные физически не покидают сервер. Но это не отменяет регламенты: журналирование, разграничение доступов, ответственный за обработку.
- Для компаний, работающих с госконтрактами и строгим 152-ФЗ, локальное развёртывание часто единственный допустимый вариант.
Стоимость: считаем честно, без ценников
Конкретные цифры приводить не будем: цены на железо и тарифы меняются ежемесячно — проверяйте актуальные на сайтах провайдеров и в прайсах поставщиков. Логика расчёта важнее цифр:
- Облако: платите за токены, ноль вложений в железо, легко масштабировать вверх и вниз. Дорого при постоянной высокой нагрузке.
- Локально: сервер (для серьёзных моделей — GPU), электричество, администрирование. Окупается при регулярном потоке задач.
- Правило-ориентир: нерегулярная нагрузка — облако; постоянный поток типовых задач — локально или гибрид.
Грубый способ прикинуть выгоду: возьмите стоимость сервера за три года эксплуатации и разделите на среднее число задач в месяц. Сравните с облачным счётом за тот же объём. Если локально выходит дешевле на треть и больше — есть смысл считать развёртывание. Если разница меньше — облако обычно надёжнее: не нужно администрировать железо и следить за обновлениями.
Скорость и качество
- Латентность: локально — миллисекунды и никаких лимитов запросов в минуту; облако — сеть, очереди и ограничения тарифа.
- Качество: открытые модели вплотную подошли к флагманам; на русском языке они достойно справляются с черновиками, извлечением данных, классификацией и суммаризацией.
- Где локальное проигрывает: сложные многошаговые рассуждения, длинные креативные тексты, редкие стилистические тонкости — тут облачные флагманы пока впереди.
- Гибрид: локальная модель для рутины плюс облачный флагман для сложных случаев — самая рабочая схема 2026 года.
Инструменты: Ollama и vLLM
- Ollama — запуск за минуты, одна команда, десятки готовых моделей, API в формате OpenAI. Идеален для прототипа, теста и небольших команд.
- vLLM — production-сервер инференса: высокая пропускная способность, батчинг, оптимизация памяти. Требует GPU и настройки — для постоянного потока запросов.
- llama.cpp — для слабого железа и CPU: модель работает даже без видеокарты, медленнее, зато без капитальных затрат.
- Типовая схема: Ollama на этапе теста, vLLM на продакшене, роутер распределяет задачи между локальными и облачными моделями.
Что нужно знать о железе: модель на 7–14 млрд параметров комфортно работает на видеокарте с 16–24 ГБ памяти, а квантованные версии и дистилляты — на более слабых GPU и даже на CPU. Веса занимают десятки гигабайт, так что планируйте и диск, и память заранее. Начинать стоит с малых моделей: для типовых задач их качества обычно достаточно, а разница в скорости и требованиях ощутима.
Когда что выбирать: шпаргалка
- Персональные данные, 152-ФЗ, коммерческая тайна — локально.
- Прототип, редкое использование, нет своей ИИ-экспертизы — облако.
- Постоянный поток типовых задач — локально или гибрид.
- Сложные рассуждения и уникальный стиль текстов — облачный флагман.
- Нет чёткого ответа — начните с облака, соберите статистику по объёму и качеству, а потом считайте миграцию.
Собрать схему — от выбора модели до роутинга задач — можно в пару дней, но лучше поручить это тем, кто уже разворачивал такие системы. Посмотрите, какие задачи закрывают наши ИИ-агенты, или напишите нам — покажем расчёт на ваших данных.