Модели

Два способа найти модель

Используйте общедоступный каталог моделей по адресу /pricing, чтобы сравнить возможности и актуальные цены перед интеграцией. Используйте GET /v1/models с вашим ключом API, чтобы получить идентификаторы модели, доступные в настоящее время для этого ключа.

Результат API является авторитетным для доступа во время запроса. Модель может появиться в общедоступном каталоге, но при этом быть недоступной для ограниченного ключа или группы.

Список доступных моделей

GET /v1/models

cURL

curl 'https://hippoapi.net/v1/models' \
+  -H "Authorization: Bearer $HIPPOAPI_API_KEY"

Python

models = client.models.list()
for model in models.data:
    print(model.id)

JavaScript

const models = await client.models.list()
for (const model of models.data) {
  console.log(model.id)
}

Используйте точный идентификатор

Скопируйте значение идентификатора, не меняя заглавные буквы, пунктуацию или суффиксы версии. Поместите эту строку в поле модели запроса. Отображаемое имя, имя поставщика или маркетинговое название не обязательно являются действительным идентификатором модели.

Сохраняйте идентификаторы моделей в конфигурации приложения, а не разбрасывайте их по исходному коду. Это упрощает просмотр и откат контролируемых изменений модели.

const MODEL = process.env.HIPPOAPI_MODEL || 'glm-5.1'

Не думайте, что поддерживаются все параметры

Совместимость с OpenAI описывает протокол запроса и ответа. Поведение модели и поддерживаемые функции по-прежнему различаются. Тестируйте потоковую передачу, вызов инструментов, структурированный вывод, ввод изображений, длину контекста и параметры выборки с помощью точной модели, которую вы планируете развернуть.

При переключении моделей проверяйте репрезентативные входы и сравнивайте качество, задержку, частоту ошибок и общую стоимость использования. Изменение только строки модели технически просто, но это все равно изменение поведения приложения.