Как выбрать поставщика доступа к моделям: чек-лист
Витрина с длинным списком моделей ничего не говорит о том, каково будет работать с сервисом каждый день. Разберём критерии, которые действительно влияют на результат.
Техническая группа
**Совместимость формата.** Работают ли ваши текущие библиотеки без правок. Это первое, что проверяется, и обычно занимает десять минут.
**Наличие нужных моделей.** Именно нужных вам, а не длина общего списка. Проверьте конкретные названия, которые вы используете.
**Лимиты и порядок их повышения.** Узнайте пороги и то, как запросить больше. Упереться в потолок в день запуска — обидно.
**Резервирование.** Есть ли встроенное переключение при сбое или его придётся писать самому.
Организационная группа
**Сторона договора.** Кто именно заключает с вами договор и в какой юрисдикции.
**Закрывающие документы.** Комплект, периодичность и формат. Для компании это часто решающий пункт.
**Поддержка.** Язык, канал и реальная скорость ответа. Проверяется до подключения: напишите вопрос и засеките время.
**Условия хранения данных.** Сохраняются ли тексты запросов, как долго и используются ли для обучения. Ответ нужен письменный.
Практическая группа
**Прозрачность расхода.** Виден ли расход в разбивке по ключам и есть ли выгрузка.
**Лимиты на ключ.** Возможность ограничить каждый ключ отдельно.
**Журнал запросов.** Хотя бы идентификаторы и коды ответов — без них разбирать инциденты нечем.
**Судьба остатка.** Сгорает ли неизрасходованное и что происходит при расторжении.
Пять проверок до переноса нагрузки
Проверки делаются на минимальном пополнении и в тестовой среде. Отдельно обратите внимание на второй пункт: время отклика нужно мерить со своего сервера, а не с ноутбука, и в рабочее время, а не ночью.
На что не стоит ориентироваться
**Количество моделей на витрине.** Вы будете использовать две-три.
**Обещания скорости без условий.** Числа в маркетинге измеряются в идеальных условиях и на коротких запросах.
**Сравнительные таблицы на сайте поставщика.** Они составлены так, чтобы выиграл составитель. Это нормально, но опираться на них нельзя.
**Отзывы без конкретики.** «Всё работает» не говорит ни о чём. Полезны только отзывы с описанием задачи и объёма.
Если поставщик не готов письменно ответить на вопрос о хранении запросов, это сам по себе ответ. Для внутренних экспериментов может быть приемлемо, для работы с данными клиентов — нет.
Красные флаги
Несколько признаков, при которых стоит насторожиться.
Нет договора, только кнопка оплаты. Для физлица терпимо, для компании — нет.
Непонятно, кто владелец сервиса и где он зарегистрирован.
Нет личного кабинета с расходом — только общая сумма списаний.
Поддержка отвечает шаблонами и не отвечает на уточняющие вопросы.
Обещание доступа к моделям, которые официально недоступны никому. Это либо ошибка, либо сознательное введение в заблуждение, и оба варианта плохи.
Запасной вариант
Выбрав поставщика, не забудьте про план на случай, если придётся уходить. Он состоит из трёх вещей: название модели лежит в конфигурации, промпты и тестовый набор хранятся у вас, данные и индексы тоже на вашей стороне.
С таким набором смена поставщика — работа на день. Без него — проект на месяц, и решение о переходе будет приниматься исходя из этого, а не из ваших интересов.
Как проверить поддержку до оплаты
Самый информативный тест занимает пять минут. Напишите в поддержку вопрос, на который нельзя ответить шаблоном, и посмотрите на две вещи: сколько времени займёт ответ и будет ли он по существу.
Хороший вопрос звучит примерно так: поддерживается ли у вас строгий формат ответа для конкретной модели и есть ли отличия от исходного API. Здесь нельзя отделаться общими словами.
Если ответ пришёл через сутки и состоит из ссылки на документацию — вы уже знаете, как будет выглядеть разбор инцидента в продакшене.
Что проверить через месяц после подключения
Выбор не заканчивается в день подключения. Через месяц полезно вернуться к списку и посмотреть, подтвердились ли ожидания.
Совпало ли время отклика с тем, что было на тесте. Приходили ли документы вовремя и в обещанном формате. Были ли сбои и как о них сообщали. Отвечала ли поддержка так же быстро, как до оплаты.
Если что-то из этого разошлось с обещаниями, лучше узнать об этом на небольшом объёме. Именно поэтому первое пополнение стоит делать минимальным, а перенос нагрузки — постепенным: это не только техническая осторожность, но и способ проверить поставщика в деле.
Коротко
Смотрите на совместимость, документы, прозрачность расхода и условия хранения данных. Проверяйте на своих запросах и минимальном платеже. И с первого дня держите возможность уйти — она дисциплинирует обе стороны.