LLM API

Yeap Cloud LLM API는 OpenAI API 형식을 따르는 모델 게이트웨이입니다. 콘솔에서 서비스를 활성화하고 API 키를 생성하면 하나의 엔드포인트와 인증 방식으로 여러 제공업체의 채팅, 임베딩, 이미지 및 음성 모델을 호출할 수 있습니다. 요금은 사용량에 따라 부과됩니다.

#주요 기능

• OpenAI 호환 API: 기본 URL은 https://llm.yeap.cloud/v1이며, 요청은 Authorization: Bearer sk-...로 인증합니다. 이미 OpenAI SDK를 사용하는 코드라면 일반적으로 base_url과 키만 변경하면 됩니다.
• 다양한 모델: 콘솔의 LLM API → 모델 및 가격 페이지에서 사용 가능한 모델과 가격을 확인할 수 있습니다. GET /v1/models로 조회할 수도 있습니다.
• 키별 제어: 키마다 할당량 상한, 모델 허용 목록, IP 허용 목록 및 만료 시간을 설정할 수 있습니다.
• 사용량 확인: 사용 로그에는 각 호출의 모델, 토큰 수 및 비용이 기록됩니다. 사용 통계에서는 지정한 기간의 사용량을 요약하여 확인할 수 있습니다.
• 브라우저 테스트: Playground에서 코드를 작성하지 않고 채팅, 이미지 생성 및 텍스트 음성 변환을 테스트할 수 있습니다.

#이 섹션의 문서

• 빠른 시작: 서비스를 활성화하고, 할당량을 추가하고, 키를 생성하고, curl, Python 또는 Node.js로 첫 요청을 보냅니다.
• API 키, 할당량 및 사용량: 키 설정, 키 할당량과 잔액의 관계, 로그 및 통계를 설명합니다.
• Playground: 브라우저에서 모델을 테스트합니다.