Разработчику, который впервые подключает ИИ, рынок API кажется одинаковым: «дай ключ и промпт». Через неделю выясняется, что у одного провайдера русский язык ломается на третьем предложении, у другого — жёсткие лимиты, у третьего — данные уходят за границу. Разбираем, по каким критериям на самом деле выбирают API для ИИ.
Что вообще продают API-провайдеры
Если упростить, есть три слоя: чат-API (текст в, текст out — для ботов и ассистентов), эмбеддинги (превращение текста в векторы для поиска и RAG) и специализированные API — распознавание речи, генерация изображений, анализ документов, транскрибация звонков. Большинство проектов начинаются с чат-API, а через месяц упираются в эмбеддинги — потому что «агент, который знает ваш бизнес», невозможен без поиска по базе знаний.
Критерий 1: качество русского языка
Самое недооценённое при выборе. Модель, которая блестяще пишет английские ответы, может звучать как переводчик-первокурсник на русском. Перед интеграцией проверяйте три вещи: связность длинных ответов (не «забывает» ли модель начало), понимание канцелярита и разговорной речи, корректность терминов вашей отрасли. Лучший тест — прогнать через API ваши реальные диалоги с клиентами, а не общие фразы из маркетинга.
Критерий 2: лимиты и скорость
У облачных API есть rate limits — сколько запросов в минуту и токенов в секунду. Для прототипа это незаметно, для продакшена с потоком клиентов — критично. Уточняйте: лимит на токены в минуту (TPM), запросы в минуту (RPM) и возможность повышения. Если бизнес ждёт пиковые нагрузки (акция, сезон) — закладывайте запас или локальный фолбэк.
Критерий 3: где хранятся данные
Для бизнеса в России это часто главный критерий. Передача клиентских данных в зарубежное облако может конфликтовать с 152-ФЗ и требованиями заказчика. Варианты: российские провайдеры API, локальные модели на своём сервере или гибрид — чувствительные операции локально, массовые — в облаке. В AIS это стандартная схема: агенты, работающие с документами клиентов, запускаются на российских серверах.
Критерий 4: цена и модель оплаты
Цены меняются быстро, поэтому конкретные цифры здесь не приводим — проверяйте на сайтах провайдеров. Важна структура: платите за токены (вход + выход), за запросы или подписку. Для бота, который отвечает на типовые вопросы, расход токенов легко посчитать заранее: умножьте средний размер диалога на число диалогов. Для RAG прибавьте стоимость эмбеддингов и хранения векторов — это отдельная статья, которую часто забывают.
Когда облако, а когда локально
- Облачный API — быстрый старт, сильные модели, не надо администрировать железо. Подходит для MVP и задач без строгих требований к данным.
- Локальная модель — данные не покидают сервер, нет лимитов, предсказуемая цена. Требует GPU и инженерных ресурсов. Подробнее — в статье про локальные модели.
- Гибрид — локально чувствительное, облачно массовое. Самый прагматичный вариант для бизнеса с реальными потоками.
Что проверить перед выбором
- Прогнать через API 10 реальных диалогов ваших клиентов и оценить качество глазами.
- Уточнить лимиты и возможность их поднять под пики.
- Проверить, где обрабатываются данные и есть ли договор с российской юрисдикцией при необходимости.
- Посчитать стоимость на вашем реальном объёме, включая эмбеддинги.
- Проверить стабильность за неделю: частота ошибок, время ответа, аптайм.
Сомневаетесь, какой слой API нужен вашей задаче? Опишите сценарий — инженеры AIS подберут архитектуру и посчитают стоимость на ваших объёмах.