Mô hình

Hai cách để tìm một mô hình

Sử dụng Danh mục mẫu công khai tại /pricing để so sánh khả năng và giá hiện tại trước khi tích hợp. Sử dụng GET /v1/models với khóa API của bạn để truy xuất mã nhận dạng mô hình hiện có cho khóa đó.

Kết quả API có thẩm quyền để truy cập vào thời điểm yêu cầu. Một mô hình có thể xuất hiện trong danh mục công khai nhưng vẫn không có sẵn cho một khóa hoặc nhóm bị hạn chế.

Liệt kê các mẫu có sẵn

GET /v1/models

cURL

curl 'https://hippoapi.net/v1/models' \
+  -H "Authorization: Bearer $HIPPOAPI_API_KEY"

Python

models = client.models.list()
for model in models.data:
    print(model.id)

JavaScript

const models = await client.models.list()
for (const model of models.data) {
  console.log(model.id)
}

Sử dụng mã định danh chính xác

Sao chép giá trị id mà không thay đổi hậu tố viết hoa, dấu câu hoặc phiên bản. Đặt chuỗi đó vào trường mô hình của yêu cầu. Tên hiển thị, tên nhà cung cấp hoặc tiêu đề tiếp thị không nhất thiết phải là số nhận dạng mẫu hợp lệ.

Giữ số nhận dạng mô hình trong cấu hình ứng dụng thay vì phân tán chúng thông qua mã nguồn. Điều này làm cho các thay đổi mô hình được kiểm soát dễ dàng hơn để xem xét và khôi phục.

const MODEL = process.env.HIPPOAPI_MODEL || 'glm-5.1'

Đừng cho rằng mọi tham số đều được hỗ trợ

Tương thích OpenAI mô tả giao thức yêu cầu và phản hồi. Hành vi của mô hình và các tính năng được hỗ trợ vẫn khác nhau. Kiểm tra tính năng phát trực tuyến, gọi công cụ, đầu ra có cấu trúc, đầu vào hình ảnh, độ dài ngữ cảnh và tham số lấy mẫu bằng mô hình chính xác mà bạn dự định triển khai.

Khi chuyển đổi mô hình, hãy kiểm tra đầu vào đại diện và so sánh chất lượng, độ trễ, tỷ lệ lỗi và tổng mức sử dụng đã tính phí. Chỉ thay đổi chuỗi mô hình là đơn giản về mặt kỹ thuật nhưng nó vẫn là thay đổi hành vi của ứng dụng.