API 키, 할당량 및 사용량

이 페이지에서는 API 키 설정, LLM 할당량 계산 방식, 로그와 통계로 사용량을 추적하는 방법을 안내합니다.

할당량 계산 방식

계정 할당량: LLM API를 활성화하면 별도의 LLM 계정이 생성되며 모델 이용 요금은 이 계정에서 차감됩니다. 기본 계정 잔액과는 별도로 관리됩니다. 이체나 충전 코드로 충전할 수 있습니다. 계정 개요의 현재 잔액에는 남은 금액이, 누적 사용량에는 전체 누적 사용 금액이 표시됩니다.
표시 금액: 콘솔에서는 할당량을 미국 달러 금액으로 표시합니다. 키 설정에 원시 할당량 값을 입력할 때는 500000 quota units = $1이 적용됩니다.
요금: 대부분의 모델은 입력 토큰과 출력 토큰에 별도로 요금을 부과합니다. 건별 과금으로 표시된 일부 모델은 호출당 요금을 부과합니다. LLM API → 모델 및 가격에는 각 모델의 1K tokens당 입력 및 출력 가격과 비율이 표시됩니다. 그룹에 가격 배수가 적용될 수도 있으며, 키 생성 시 그룹 옵션에 표시됩니다.

참고

모든 요청은 계정 할당량과 키 자체의 할당량 한도를 모두 충족해야 합니다. 둘 중 하나라도 소진되면 요청이 실패합니다.

LLM API → 토큰 관리 (/llm/tokens)를 엽니다. 목록에는 각 키에 대해 다음 열이 표시됩니다.

열	설명
이름	키를 생성할 때 입력한 이름입니다.
상태	활성화됨 / 비활성화됨 / 만료됨 / 소진됨 소진입니다.
남은 한도/전체 한도	남은 할당량을 나타내는 진행률 표시줄입니다. 할당량이 무제한인 키에는 무제한 한도가 표시됩니다.
그룹	키의 그룹입니다. 지능형 서킷 브레이커은 자동 그룹을 의미합니다.
키	기본적으로 일부가 가려져 있습니다. 눈 아이콘을 클릭하면 표시되고 복사 아이콘을 클릭하면 복사됩니다.
사용 가능한 모델	모델 제한을 설정하지 않으면 제한 없음가 표시됩니다.
IP 제한	제한을 설정하지 않으면 제한 없음가 표시됩니다.
생성일 / 만료일	만료되지 않는 키에는 만료 없음가 표시됩니다.

작업 열에서 스위치로 키를 활성화하거나 비활성화하고, 편집 아이콘으로 설정을 변경하거나 삭제 아이콘으로 키를 삭제합니다. 삭제된 키를 사용하는 요청은 즉시 실패합니다.

필드	설명
이름	필수입니다. "prod-support-bot"과 같이 용도에 따라 키 이름을 지정합니다.
그룹	비워 두면 기본 그룹을 사용합니다. 목록에는 계정에서 사용할 수 있는 그룹만 표시되며 각 그룹의 설명과 가격 배수가 포함될 수 있습니다. 지능형 서킷 브레이커를 선택하면 플랫폼이 사용 가능한 그룹을 선택합니다. 그룹에 따라 키가 호출할 수 있는 모델과 가격 배수가 결정됩니다.
무제한 할당량	켜면 키 자체의 한도 없이 계정 할당량만 적용됩니다.
할당량 한도	무제한 할당량을 끄면 표시됩니다. 이 키에서 사용할 수 있는 최대 할당량을 입력합니다(500000 = $1). 모두 사용하면 키 상태가 소진으로 변경됩니다.
모델 제한 활성화 / 사용 가능한 모델	켜면 키가 호출할 수 있는 모델 이름을 쉼표로 구분하여 입력합니다(예: `gpt-4o-mini,text-embedding-3-small`). 다른 모델에 대한 요청은 거부됩니다.
IP 제한	허용할 소스 IP를 한 줄에 하나씩 입력합니다. 비워 두면 제한하지 않습니다. 고정 서버에서만 호출하는 경우에 사용합니다.
만료 시간	비워 두면 키가 만료되지 않습니다. 과거 시간은 선택할 수 없습니다. 지정한 시간이 지나면 키 상태가 만료로 변경됩니다.

팁

비활성화되거나 만료된 키를 편집하여 유효한 만료 시간을 지정하거나 만료 시간을 없애면 저장 시 자동으로 다시 활성화됩니다.

이체: 계정 개요의 현재 잔액 카드에서 이체를 클릭하여 기본 잔액에서 금액을 이동합니다. 최솟값은 1이며, 대화 상자에 충전될 할당량이 표시됩니다. 이체는 되돌릴 수 없습니다.
충전 코드: 계정 개요의 교환 코드로 충전 카드에 코드를 입력하고 교환을 클릭합니다.
기본 잔액 충전: 현재 잔액 카드에서 충전을 클릭하면 결제 센터 → 잔액으로 이동합니다.

LLM API → 요청 로그 (/llm/logs)에는 모든 호출과 할당량 변경 내역이 표시됩니다.

필터: 기간, 키(토큰) 이름, 모델 이름, 유형으로 필터링합니다. 유형은 충전, 지출, 관리, 시스템, 오류입니다.
열: 시간, 키, 유형, 모델, 소요 시간 및 첫 토큰까지의 시간, 입력 토큰, 출력 토큰, 비용, 소스 IP, 상세 정보가 표시됩니다. 요청한 모델이 다른 모델로 매핑된 경우 요청 모델과 실제 모델이 모두 표시됩니다.
요약: 페이지 상단에는 전체 기록 수, 성공한 요청, 실패한 요청 등 현재 필터에 해당하는 합계가 표시됩니다.

문제 해결 시 먼저 오류 유형으로 필터링한 다음 상세 정보의 오류 메시지를 확인합니다.

LLM API → 사용량 (/llm/stats)는 지정한 기간의 사용량을 요약합니다.

계정 개요 페이지에도 간단한 요약이 표시됩니다. 해당 기간의 요청 수, 할당량, 토큰 수와 선택한 날짜 범위의 평균 RPM(분당 요청 수) 및 TPM(분당 토큰 수)을 확인할 수 있습니다.