LLM API

Yeap Cloud LLM API — это шлюз моделей, использующий формат OpenAI API. Активируйте сервис в консоли и создайте ключ API, чтобы обращаться к моделям чата, эмбеддингов, изображений и речи от нескольких поставщиков через единую конечную точку с общей схемой аутентификации. Вы платите за фактическое использование.

#Основные возможности

• API, совместимый с OpenAI: базовый URL — https://llm.yeap.cloud/v1, для аутентификации запросов используется Authorization: Bearer sk-.... В коде, который уже использует OpenAI SDK, обычно достаточно изменить base_url и ключ.
• Множество моделей: на странице консоли LLM API → Модели и цены перечислены доступные модели и их цены. Также можно выполнить запрос GET /v1/models.
• Настройки для каждого ключа: для каждого ключа можно задать отдельное ограничение квоты, список разрешённых моделей, список разрешённых IP-адресов и срок действия.
• Данные об использовании: в разделе Журнал использования для каждого вызова сохраняются модель, количество токенов и стоимость. Раздел Статистика использования содержит сводные данные об использовании за выбранный период.
• Тестирование в браузере: Playground позволяет попробовать чат, генерацию изображений и преобразование текста в речь без написания кода.

#В этом разделе

• Быстрый старт: активация сервиса, пополнение квоты, создание ключа и отправка первого запроса с помощью curl, Python или Node.js.
• Ключи API, квота и использование: настройки ключей, связь квоты ключа с балансом, журналы и статистика.
• Playground: тестирование моделей в браузере.